算力猫
← 返回教程列表

接入软件

LangChain

用 langchain-openai 的 ChatOpenAI 指向我们的地址。

约 5 分钟适合:用 LangChain 搭应用的开发者

开始之前

  • Python 环境
  • 一把 Key,放进环境变量

步骤 1 · STEP 0x01

安装

terminal
$ pip install -U langchain-openai$ export API_KEY=<你的 Key>
完整 Key 只在创建时显示一次,关闭页面就看不到了。没来得及保存?吊销它,再创建一把新的。

去创建 Key →

步骤 2 · STEP 0x02

指定地址、Key 和模型

python
import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="<模型名>",
    base_url="https://api.suanlimao.shop/v1",
    api_key=os.environ["API_KEY"],
)

response = llm.invoke("Hello, how are you?")
print(response.content)
terminal
$ python demo.pyHello! I'm doing well, thank you …
接入地址写 https://api.suanlimao.shop/v1(带 /v1)。如果软件提示 404,先检查有没有多写或少写 /v1,再看下面的常见问题。
模型名不要自己猜:到「模型广场」点模型卡片上的「复制模型名」,再粘贴到软件里。模型名写错是最常见的报错原因。

步骤 3 · STEP 0x03

用环境变量代替参数(可选)

terminal
$ export OPENAI_BASE_URL=https://api.suanlimao.shop/v1$ export OPENAI_API_KEY=<你的 Key>
python
llm = ChatOpenAI(model="<模型名>")

LangChain 会读取 OPENAI_API_BASE,OpenAI SDK 会读取 OPENAI_BASE_URL,两个都设了以前者为准。设置了 OPENAI_BASE_URL 时 LangChain 默认不开 stream_usage,因为很多非 OpenAI 的服务不支持流式用量。

LangChain 官方说明 ChatOpenAI 只针对官方 OpenAI 规范:第三方返回的非标准字段不会被提取。需要这些字段时,直接用 OpenAI SDK。

✓ 怎么确认成功了

  • llm.invoke 返回回答,控制台「用量」页出现请求。

常见问题

想要 LangChain 的 Anthropic 集成怎么办?

Claude 模型也可以走 OpenAI 兼容接口,直接用上面的写法。需要 Anthropic 原生特性(如 thinking 的完整结构)时,用 Anthropic SDK,地址写根地址,见 SDK 教程。

返回 404?

检查 base_url 有没有 /v1,以及模型名。

相关教程

还是不行?

先看排错教程;仍然解决不了,提交工单时附上 request_id、时间、模型和报错原文(不要贴 Key)。