FastGPT 安装说明(Docker Compose)
https://doc.fastai.site/docs/development/docker/
使用 Docker Compose 快速部署 FastGPT
推荐配置
环境 | 最低配置(单节点) | 推荐配置 |
---|---|---|
测试 | 2c2g | 2c4g |
100w组向量 | 4c8g 50GB | 4c16g 50GB |
500w 组向量 | 8c32g | 16c64g 200GB |
部署架构图
- 1、准备好代理环境(国外服务器可忽略)
确保可以访问 OpenAI,具体方案可以参考:代理方案。或直接在 Sealos 上 部署 OneAPI,既解决代理问题也能实现多 Key 轮询、接入其他大模型。
- 2、多模型支持
FastGPT 使用了 one-api 项目来管理模型池,其可以兼容 OpenAI 、Azure 、国内主流模型和本地模型等。
可选择 Sealos 快速部署 OneAPI,更多部署方法可参考该项目的 README
,也可以直接通过以下按钮一键部署:
作者:Jeebiz 创建时间:2024-03-24 00:15
最后编辑:Jeebiz 更新时间:2024-04-24 10:53
最后编辑:Jeebiz 更新时间:2024-04-24 10:53