deepseek使用指南

云主机选择deepseek镜像

在云主机镜像中，ubuntu系统有预装了deepseek r1蒸馏版本，分别有1.5b、7b、70b等镜像。
主要用到以下工具：
1.ollama(linux版本)
2.docker（apt源下载）
3.open webui可视化交互镜像（docker部署）
使用捷智算平台，首先要在下单页面选择deepseek镜像，然后选择镜像对应的规格。
镜像选择：
20.04 （预装deepseek_r1_70b,docker,ollama,cuda12.4/anaconda3/python3.12）
20.04 （预装deepseek_r1_1.5b&7b,docker,ollama,cuda12.4/anaconda3/python3.12）
区别：
deepseek_r1_1.5b&7b镜像，单卡24g显存以上都可以跑，参数量小，轻量，推理速度都挺快。
deepseek_r1_70b镜像，建议单卡或多卡40到80g的显存以上，推理速度会较快。
核心配置：
deepseek_r1_1.5b&7b镜像，cpu至少要8核。显存24G以上。
deepseek_r1_70b镜像，cpu至少要16核最佳。显存40G以上，80g最佳。
内存至少64g。
自定义端口设置
选择好了镜像后，就可以下单了。
启动运作中后，该镜像是自动化部署，用户只需要设置外部端口，即可在外网访问open webui可视化交互。
下一步需设置端口（默认8080），生成外网端口加到链接最后（http://223.109.239.16：外网端口）方可外网访问。
请注意，每台的公网ip都不一样，规则是公网ip:外部端口才能访问。

云主机自行部署deepseek

此方案是在不选择deepseek镜像，自行部署的情况。
在云主机镜像中，选择ubuntu20.04或者22.04镜像。
第一步、apt源更新

  
apt update

**第二步、安装ollama**

  
curl -fsSL https://ollama.com/install.sh | sh

**第三步、拉取deepseek-r1模型**

  
ollama run deepseek-r1:1.5b
ollama run deepseek-r1:7b
ollama run deepseek-r1:70b

第四步、docker部署open webui

  
docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434  --name open-webui --restart always ghcr.io/open-webui/open-webui:main

如果发现docker的镜像不合适，可以通过以下命令删除docker镜像

  
docker run --rm --volume /var/run/docker.sock:/var/run/docker.sock containrrr/watchtower --run-once open-webui

以上配置无误，则可以设置自定义端口，访问webui。