一个使用Ollama部署 DeepSeek R1 的方法

 

下载Ollama:https://ollama.com/download

个人盘:https://pan.loadream.com/Ollama

DeepSeek R1的模型网址:https://ollama.com/library/deepseek-r1

 

NVIDIA app 下载:https://www.nvidia.cn/software/nvidia-app/

安装 NVIDIA Studio 驱动程序

 

需要一个比较好的英伟达RTX开头的显卡,并且性能和显存越大越好,比如 RTX 4090 显卡,显存24GB,可以使用下图的 32b 这个模型。

 

 

下载安装 Ollama

 

等待安装完成,桌面的右下角会有个猪猪图标

接下来开始下载模型,打开上面的网址,根据你的显卡性能选择要下载的版本

点进去,复制安装代码,比如我用 8b 这个,在这里复制代码后,使用cmd运行

ollama run deepseek-r1:8b

 

按 Win + R ,运行,输入 CMD

或者直接在搜索菜单输入CMD,管理员身份运行

打开CMD后,运行安装模组的命令,耐心等待下载完成

 

下载完成后,就可以在CMD中进行简单对话了,接下来还要装个UI工具,使用更方便

 

比如使用开源的借助 Docker 安装 Open WebUI 的这个工具,又或者使用 Chatbox

比如这里介绍使用 Chatbox,比较简单,适合新手

下载,安装,运行

在设置里面,模型提供方选 Ollama,模型选刚才下载的