Skip to main content

Helicone( Helicone )

本页面介绍如何在 LangChain 中使用 Helicone( Helicone ) 生态系统。

什么是 Helicone( Helicone )?

Helicone( Helicone )是一个 开源( open source ) 的可观察性平台,代理您的 OpenAI 流量并为您提供有关消费、延迟和使用情况的关键见解。

Helicone( Helicone )

快速入门

在您的 LangChain 环境中,您只需添加以下参数。

export OPENAI_API_BASE="https://oai.hconeai.com/v1"

现在转到 helicone.ai( helicone.ai ) 创建您的账户,并在我们的仪表板中添加您的 OpenAI API 密钥以查看日志。

Helicone( Helicone )

如何启用 Helicone( Helicone )缓存

from langchain.llms import OpenAI
import openai
openai.api_base = "https://oai.hconeai.com/v1"

llm = OpenAI(temperature=0.9, headers={"Helicone-Cache-Enabled": "true"})
text = "What is a helicone?"
print(llm(text))

Helicone( Helicone )缓存文档

如何使用 Helicone( Helicone )自定义属性

from langchain.llms import OpenAI
import openai
openai.api_base = "https://oai.hconeai.com/v1"

llm = OpenAI(temperature=0.9, headers={
"Helicone-Property-Session": "24",
"Helicone-Property-Conversation": "support_issue_2",
"Helicone-Property-App": "mobile",
})
text = "What is a helicone?"
print(llm(text))

Helicone( Helicone )属性文档