算力猫
← 返回教程列表

接入软件

FastGPT

在 FastGPT 的「系统模型」里新增模型,再新增一个 OpenAI 协议的渠道。

约 8 分钟适合:自己部署 FastGPT 的管理员

开始之前

  • FastGPT 管理员账号(新版自带 AI Proxy)
  • 一把 Key 和一个模型名

步骤 1 · STEP 0x01

新增模型

管理员 → 系统资源 → 系统模型 → 模型配置
1
新增模型
2

模型类型

语言模型
3

模型提供商

按最接近的一项选
4

模型调用标识(model)

<模型名>
5

展示名称

随便取
6
确认
示意图,以软件当前版本界面为准
  • 进入「管理员 → 系统资源 → 系统模型」,在「模型配置」页点右上角「新增模型」。
  • 「模型调用标识」必须和模型广场的模型名一模一样,渠道里会按它匹配。能力参数(上下文、是否支持函数调用、视觉)按模型广场填。
  • 如果内置列表里已经有同名模型,直接点「启用」也可以。
模型名不要自己猜:到「模型广场」点模型卡片上的「复制模型名」,再粘贴到软件里。模型名写错是最常见的报错原因。

打开模型广场 →

步骤 2 · STEP 0x02

新增渠道

系统模型 → 模型渠道 → 新增渠道
1

渠道名

随便取,仅作标识
2

协议类型

OpenAI
3

模型

勾选上一步新增的模型
4

代理地址

https://api.suanlimao.shop/v1
5

API 密钥

<你的 Key>
6
新建
示意图,以软件当前版本界面为准
  • 切到「模型渠道」页,点「新增渠道」。协议类型选 OpenAI,模型里勾选刚新增的模型。
  • 官方说明:「代理地址」不要填完整的模型请求地址,要填写 BaseUrl,注意是否需要增加 /v1。我们的接口填 https://api.suanlimao.shop/v1。
  • 「模型映射」留空即可;如果你想让应用里用别的名字调用,可以在这里映射。

去创建 Key →

步骤 3 · STEP 0x03

测试并在应用里使用

模型渠道 → 模型测试
1
模型测试

结果

每个模型显示成功 / 失败与请求时长

2

应用 → AI 配置 → 模型

你新增的模型
示意图,以软件当前版本界面为准
  • 点「模型测试」批量测一遍;通过后在应用的 AI 配置里就能选到这个模型。
老版本 FastGPT 用 config.json 的 llmModels 和 OneAPI 环境变量配置模型;现行官方文档只写了「系统模型」这条路,并提供了从 OneAPI 迁移渠道的入口。本文按新版写。

✓ 怎么确认成功了

  • 「模型测试」通过;应用对话能回答;控制台「用量」页出现请求。

常见问题

模型测试失败?

先看代理地址是否为 https://api.suanlimao.shop/v1(不是完整请求地址);再确认渠道里勾选的模型调用标识与模型广场一致;最后看 Key 和余额。

应用里选不到模型?

模型要先在「模型配置」里新增 / 启用,再在渠道里勾选;两边都要有。

相关教程

还是不行?

先看排错教程;仍然解决不了,提交工单时附上 request_id、时间、模型和报错原文(不要贴 Key)。