Skip to main content

LangChain 模板

LangChain 模板是构建生产就绪 LLM 应用程序的最简单和最快的方式。 这些模板作为各种流行的 LLM 使用案例的参考架构。 它们都采用标准格式,可以使用 LangServe 轻松部署它们。

🚩 我们将发布 LangServe 的托管版本,以便一键部署 LangChain 应用程序。在此注册 加入等待列表。

快速开始

要使用,首先安装 LangChain CLI。

pip install -U langchain-cli

接下来,创建一个新的 LangChain 项目:

langchain app new my-app

这将创建一个名为 my-app 的新目录,其中包含两个文件夹:

  • app: 这是 LangServe 代码所在的位置
  • packages: 这是您的链或代理所在的位置

要将现有模板作为包拉入,请先进入新项目:

cd my-app

然后将模板作为项目添加进来。 在本入门指南中,我们将添加一个简单的 pirate-speak 项目。 此项目的作用是将用户输入转换为海盗语。

langchain app add pirate-speak

这将把指定的模板拉入 packages/pirate-speak

然后会提示您是否要安装它。 这相当于运行 pip install -e packages/pirate-speak。 通常应该接受这一点(或者稍后运行相同的命令)。 我们使用 -e 进行安装,以便如果您修改模板(您可能会这样做),则更新更改。

之后,它会询问您是否要为此项目生成路由代码。 这是您需要添加到应用程序中以开始使用此链的代码。 如果我们接受,将会看到生成以下代码:

from pirate_speak.chain import chain as pirate_speak_chain

add_routes(app, pirate_speak_chain, path="/pirate-speak")

现在您可以编辑您拉取下来的模板了。 您可以更改 packages/pirate-speak 中的代码文件以使用不同的模型、不同的提示、不同的逻辑。 请注意,上述代码片段始终期望最终链可作为 from pirate_speak.chain import chain 导入, 因此您应该保持包的结构足够相似以尊重该要求,或者准备好更新该代码片段。

一旦您完成了所需的修改,接下来要做的是 为了使 LangServe 使用此项目,您需要修改 app/server.py。 具体来说,您应该将上面的代码片段添加到 app/server.py 中,使文件看起来像这样:

from fastapi import FastAPI
from langserve import add_routes
from pirate_speak.chain import chain as pirate_speak_chain

app = FastAPI()

add_routes(app, pirate_speak_chain, path="/pirate-speak")

(可选)现在让我们配置 LangSmith。 LangSmith 将帮助我们跟踪、监视和调试 LangChain 应用程序。 LangSmith 目前处于私有测试阶段,您可以在 此处 注册。 如果您没有访问权限,可以跳过此部分

export LANGCHAIN_TRACING_V2=true
export LANGCHAIN_API_KEY=<your-api-key>
export LANGCHAIN_PROJECT=<your-project> # 如果未指定,默认为 "default"

对于特定应用程序,我们将使用 OpenAI 作为 LLM,因此我们需要导出我们的 OpenAI API 密钥:

export OPENAI_API_KEY=sk-...

然后您可以通过运行以下命令来启动生产就绪的端点,以及一个游乐场:

langchain serve

现在您可以获得一个完全部署的 LangServe 应用程序。 例如,您可以在 http://127.0.0.1:8000/pirate-speak/playground/ 上立即获得一个游乐场:

Screenshot of the LangServe Playground interface with input and output fields demonstrating pirate speak conversion.

http://127.0.0.1:8000/docs 上访问 API 文档:

Screenshot of the API documentation interface showing available endpoints for the pirate-speak application.

使用 LangServe Python 或 JS SDK 与 API 交互,就像它是一个常规的 Runnable 一样。

from langserve import RemoteRunnable

api = RemoteRunnable("http://127.0.0.1:8000/pirate-speak")
api.invoke({"text": "hi"})

快速入门到此结束! 您已成功下载了第一个模板,并使用 LangServe 部署了它。

额外资源

模板索引

探索可用于使用的许

多模板 - 从高级 RAG 到代理。

贡献

想要贡献您自己的模板吗?这相当容易!这些说明介绍了如何操作。

从包中启动 LangServe

您还可以直接从包中启动 LangServe(无需创建新项目)。 这些说明涵盖了如何操作。


请注意,以上翻译仅包含标题、段落和列表的内容,且驼峰和下划线单词不被翻译。