搭建本地FastGPT

踩到的坑

docker desktop拉取镜像极慢

配置docker的镜像源"registry-mirrors": [ "https://mirror.ccs.tencentyun.com" ]

fastGPT发起对话出现错误Connection error.

原因：fastgpt和oneapi都处于docker中，fastgpt通过localhost无法访问到oneapi

解决方法：让oneapi 和fastgpt放在同一个docker网络中

Docker容器网络模式_docker容器网络默认桥模式-CSDN博客

搭建前准备

获取讯飞星火的token

控制台-讯飞开放平台

获取以下信息备用

搭建OneAPI项目

在搭建FastGPT之前需要先搭建一个OneAPI项目，FastGPT使用OneAPI提供的接口，对OpenAI，文心一言，通义千问进行中继访问。

<font style="color:rgb(31, 35, 40);">docker run --name one-api -d --restart always -p 3000:3000 -e TZ=Asia/Shanghai -v C:\Users\23392\Downloads\one_api_log:/data justsong/one-api</font>

配置渠道，使用上面获取的字符串搭建讯飞星火大模型渠道

配置令牌，复制令牌备用

使用docker-compose快速部署

下载配置文件和docker-compose文件

:::info mkdir fastgpt

cd fastgpt

curl-O https://raw.githubusercontent.com/labring/FastGPT/main/files/deploy/fastgpt/docker-compose.yml

curl-O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json

:::

修改配置文件，下面是示例

config.json

• 添加星火模型

修改docker-compose文件

docker-compose.yml

• 使用上一步准备的令牌配置以下环境变量：OPENAI_BASE_URL=OneAPI访问地址/v1；CHAT_API_KEY=令牌
• 修改fastgpt的端口 -3002：3000
• 修改了网络配置

初始化mongodb

• dockerps# 进入容器
• dockerexec-it mongo bash# 连接数据库（这里要填Mongo的用户名和密码）
• mongo -u myusername -p mypassword —authenticationDatabase admin # 初始化副本集。如果需要外网访问，mongo:27017 可以改成 ip:27017。但是需要同时修改 FastGPT 连接的参数（MONGODB_URI=mongodb://myname:mypassword@mongo:27017/fastgpt?authSource=admin => MONGODB_URI=mongodb://myname:mypassword@ip:27017/fastgpt?authSource=admin） rs.initiate({ _id: “rs0”, members: [{ _id: 0, host: “mongo:27017”}]})# 检查状态。如果提示 rs0 状态，则代表运行成功 rs.status()

访问3001端口，使用root：1234登录

本地部署FastGPT通过OneApi使用在线大语言模型

Docker Compose 快速部署

GitHub - songquanpeng/one-api: OpenAI 接口管理 & 分发系统

{
  "registry-mirrors": [
    "https://ccr.ccs.tencentyun.com"
  ]
}