FastGPT 安装说明(Docker Compose)

https://doc.fastai.site/docs/development/docker/

使用 Docker Compose 快速部署 FastGPT

推荐配置

环境 最低配置(单节点) 推荐配置
测试 2c2g 2c4g
100w组向量 4c8g 50GB 4c16g 50GB
500w 组向量 8c32g 16c64g 200GB

部署架构图

  • 1、准备好代理环境(国外服务器可忽略)

确保可以访问 OpenAI,具体方案可以参考:代理方案。或直接在 Sealos 上 部署 OneAPI,既解决代理问题也能实现多 Key 轮询、接入其他大模型。

  • 2、多模型支持

FastGPT 使用了 one-api 项目来管理模型池,其可以兼容 OpenAI 、Azure 、国内主流模型和本地模型等。

可选择 Sealos 快速部署 OneAPI,更多部署方法可参考该项目的 README
,也可以直接通过以下按钮一键部署:

作者:Jeebiz  创建时间:2024-03-24 00:15
最后编辑:Jeebiz  更新时间:2024-04-24 10:53