Skip to main content

DeepInfra

本页面介绍如何在 LangChain 中使用 DeepInfra 生态系统。 它分为两个部分:安装和设置,以及特定 DeepInfra 包装器的参考。

安装和设置

  • 从此链接获取您的 DeepInfra API 密钥 此处
  • 获取一个 DeepInfra API 密钥,并将其设置为环境变量(DEEPINFRA_API_TOKEN

可用模型

DeepInfra 提供了一系列可用于部署的开源 LLM(语言模型)。 您可以在 此处 列出支持的模型。 google/flan*模型可以在 此处 查看。

您可以在 此处 查看请求和响应参数的列表。

包装器

LLM

存在一个 DeepInfra LLM 包装器,您可以使用以下方式访问

from langchain.llms import DeepInfra