如何在Linux中部署DeepSeek

首先，你需要准备一个具有GPU的服务器：RTX5090、4080S、5070显卡上机

访问链接：https://biomamba.xiyoucloud.net/

更多内容可咨询客服微信[Biomamba_zhushou]

1、下载并安装ollama

在Linux系统中我们部署DeepSeeK-r1时，第一步同样需要先安装ollama。

linux安装ollama的过程中同样可能会受到网络的影响。如果出现了下载失败的情况，可以多尝试几次。

curl -fsSL https://ollama.com/install.sh | sh

2、安装DeepSeek-r1

（1） 启动ollama

第一步我们同样先检查一下ollama是否能够正常运行。如果执行ollama命令能显示出ollama参数信息，则说明ollama可以在linux中正常运行了。

ollama

（2）安装DeepSeek-r1

DeepSeek-r1不同版本的模型对应的大小不太相同。模型越大，则对应需要的储存空间越大，下载所需要的时间也会越长。其中32b版本的大小约19G，所以这一步骤的下载过程会消耗一些时间。

ollama run deepseek-r1:32b

（3）检查模型下载版本

ollama list

（4）开始对话

现在我们可以在Linux系统里面和DeepSeek开始聊天啦~~ 执行下面的命令，启动对话。

ollama run deepseek-r1:32b

3、设置chatBox

chatBox访问端口

# 修改配置文件sudo vi /etc/systemd/system/ollama.service# 配置文件里面添加上下面这两行代码[Service]Environment="OLLAMA_HOST=目标ip:目标端口"Environment="OLLAMA_ORIGINS=*"#重新加载ollama服务sudo systemctl daemon-reloadsudo systemctl restart ollama

接下来打开chatBox进入设置页面，填入自己的API域名和端口，同时模型选择自己对应下载好的模型 

设置完成之后，点击保存，这时候再在聊天框输入我们的问题，就可以在chatbox实现对话啦~~

注意，实测ollama会留后门，给服务器安全造成隐患，使用时可以把本地服务器断网处理。若是云端服务器，记得定期修改密码并且监控资源使用情况。也可以参考以下教程定期查杀病毒：

拦截了10亿+网络病毒攻击的查杀技巧