通过优云智算部署
优云智算是 UCloud 旗下的 GPU 算力租赁和大模型 API 调用平台,致力于为 AI、深度学习、科学计算相关客户提供丰富多样的算力资源。
AstrBot 在优云智算发布了 Ollama + AstrBot 一键自部署镜像,并且接入了优云智算 LLM API。
使用 Ollama + AstrBot 一键自部署镜像
镜像默认参数为:RTX 3090 24GB + Intel 16核 + 64GB RAM + 200GB 系统盘。采用按量付费的方式,请留意您的余额使用情况。
- 通过 此链接 注册优云智算账户。
- 打开 AstrBot 镜像链接,点击创建实例。
- 部署成功后,在控制台中打开「JupyterLab」
- 进入JupyterLab后,新建一个终端 Terminal,在终端中粘贴以下指令
bash
cd
./astrbot_booter.sh
指令运行结果如下所示即说明启动成功。
txt
(py312) root@f8396035c96d:/workspace# cd
./astrbot_booter.sh
Starting AstrBot...
Starting ollama...
Both services started in the background.
启动成功后,在浏览器中输入 http://实例的外网IP:6185
即可访问 AstrBot 的界面。外网 IP 可以在 控制台->基础网络(外网)中获取。
可能需要等待半分钟左右。
使用用户名:astrbot 和密码 astrbot 进行登录。
登录成功后,可以重新设置密码,并进入 AstrBot 的页面。
实例默认会导入 Ollama-DeepSeek-R1-32B 模型。
使用其他模型
使用 Ollama 拉取模型
镜像原生部署了 Ollama,您可以通过 Ollama 指令自行拉取想要的模型,将模型本地部署在实例。
- 在 Ollama 模型列表找到想部署的模型。
- 通过 SSH 进入到实例的终端(进入优云智算平台的控制台页面->实例列表->控制台指令和密码)
- 通过
ollama pull 模型名
拉取模型,等待拉取成功。 - 在 AstrBot 面板的 服务提供商页面找到
ollama_deepseek-r1
,点击编辑,更新模型名称,点击保存。
使用优云智算提供的模型 API
AstrBot 支持接入优云智算提供的模型 API。
- 在 优云智算 找到想要接入的模型
- 在 AstrBot 面板的 服务提供商页面点击「+ 新增服务提供商」,点击优云智算(如果没有,点击“接入 OpenAI”,并且修改下一步弹出窗口的 API Base URL 为
https://api.modelverse.cn/v1
)。在模型配置-模型名称输入模型名,点击保存。
测试
在 AstrBot 面板左侧点击 聊天
,输入 /provider
,可以查看和切换您当前接入的提供商。
您可以直接聊天来测试模型是否正常。
接入到消息平台
您可以参考 AstrBot 官方文档获得最新的接入教程。打开 AstrBot 官方文档后,查看左侧 部署->部署消息平台(协议端) 即可查看各个消息平台的接入方式。AstrBot 支持快捷接入到 QQ、飞书、企业微信、微信公众号、微信客服、钉钉、KOOK、Slack、Discord 等多个平台。
- 飞书:接入到飞书
- 钉钉:接入到钉钉
- 企业微信:接入到企业微信应用
- 微信客服:接入到微信客服
- 微信公众平台:接入到微信公众平台
- QQ 官方机器人平台:接入到 QQ 机器人
- KOOK:接入到 KOOK
- Slack:接入到 Slack
- Discord:接入到 Discord
- 更多接入方式参考 AstrBot 官方文档
更多功能
更多功能情参考 AstrBot 官方文档。