提示层 Promptlayer

本页面介绍如何在 LangChain 中使用 PromptLayer。分为两个部分：安装和设置，以及特定的 PromptLayer 包装器的参考。

安装和设置

如果您想使用 PromptLayer：

• 安装 promptlayer python 库 pip install promptlayer

• 创建 PromptLayer 账号

• 创建 API token，并将其设置为环境变量(PROMPTLAYER_API_KEY)

包装器

LLM

存在一个 PromptLayer 的 OpenAI LLM 包装器，可以使用以下方式访问

from langchain.llms import PromptLayerOpenAI

在实例化 LLM 时，可以使用 pl_tags 参数来标记您的请求

from langchain.llms import PromptLayerOpenAI
llm = PromptLayerOpenAI(pl_tags=["langchain-requests", "chatbot"])

在实例化 LLM 时，可以使用 return_pl_id 参数来获取 PromptLayer 请求 id

from langchain.llms import PromptLayerOpenAI
llm = PromptLayerOpenAI(return_pl_id=True)

这将在使用 .generate 或 .agenerate 生成文本时，将 PromptLayer 请求 ID 添加到 Generation 的 generation_info 字段中进行返回

例如：

llm_results = llm.generate(["hello world"])
for res in llm_results.generations:
    print("pl request id: ", res[0].generation_info["pl_request_id"])

您可以使用 PromptLayer 请求 ID 将提示、分数或其他元数据添加到您的请求中。在此处阅读更多信息

这个 LLM 与 OpenAI LLM 完全相同，除了

• 所有的请求都将记录到您的 PromptLayer 账户中

• 当实例化时，您可以添加 pl_tags 来对 PromptLayer 上的请求进行标记

• 当实例化时，您可以添加 return_pl_id 来返回 PromptLayer 请求 ID，以便 跟踪请求。

PromptLayer 还提供了本地包装器，用于 PromptLayerChatOpenAI 和 PromptLayerOpenAIChat