接入软件
LangChain
用 langchain-openai 的 ChatOpenAI 指向我们的地址。
约 5 分钟适合:用 LangChain 搭应用的开发者
开始之前
- Python 环境
- 一把 Key,放进环境变量
步骤 1 · STEP 0x01
安装
terminal
$ pip install -U langchain-openai$ export API_KEY=<你的 Key>
完整 Key 只在创建时显示一次,关闭页面就看不到了。没来得及保存?吊销它,再创建一把新的。
步骤 2 · STEP 0x02
指定地址、Key 和模型
python
import os
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="<模型名>",
base_url="https://api.suanlimao.shop/v1",
api_key=os.environ["API_KEY"],
)
response = llm.invoke("Hello, how are you?")
print(response.content)terminal
$ python demo.pyHello! I'm doing well, thank you …
接入地址写
https://api.suanlimao.shop/v1(带 /v1)。如果软件提示 404,先检查有没有多写或少写 /v1,再看下面的常见问题。模型名不要自己猜:到「模型广场」点模型卡片上的「复制模型名」,再粘贴到软件里。模型名写错是最常见的报错原因。
步骤 3 · STEP 0x03
用环境变量代替参数(可选)
terminal
$ export OPENAI_BASE_URL=https://api.suanlimao.shop/v1$ export OPENAI_API_KEY=<你的 Key>
python
llm = ChatOpenAI(model="<模型名>")LangChain 会读取 OPENAI_API_BASE,OpenAI SDK 会读取 OPENAI_BASE_URL,两个都设了以前者为准。设置了 OPENAI_BASE_URL 时 LangChain 默认不开 stream_usage,因为很多非 OpenAI 的服务不支持流式用量。
LangChain 官方说明
ChatOpenAI 只针对官方 OpenAI 规范:第三方返回的非标准字段不会被提取。需要这些字段时,直接用 OpenAI SDK。✓ 怎么确认成功了
llm.invoke返回回答,控制台「用量」页出现请求。
常见问题
想要 LangChain 的 Anthropic 集成怎么办?
Claude 模型也可以走 OpenAI 兼容接口,直接用上面的写法。需要 Anthropic 原生特性(如 thinking 的完整结构)时,用 Anthropic SDK,地址写根地址,见 SDK 教程。
返回 404?
检查 base_url 有没有 /v1,以及模型名。
相关教程
还是不行?
先看排错教程;仍然解决不了,提交工单时附上 request_id、时间、模型和报错原文(不要贴 Key)。