小白也能看懂的DeepSeek-R1本地部署指南

春节期间，Deepseek以其卓越性能赢得众多技术爱好者的关注。用户评价褒贬不一，但国际巨头的震惊足以证明其非凡之处。若你想在本地部署该模型，探索其强大功能，以下指南将为你提供详细指导。本文将介绍Windows和Mac双平台的部署流程。

一、基础环境搭建

安装Ollama

1. 下载Ollama：
   • 访问Ollama官网 ，根据你的操作系统（Windows、Mac或Linux）下载相应安装包。
   • 以Mac和Windows为例，

1. 安装验证：
   • 安装完成后，在终端输入<font style="color:rgb(26, 32, 41);">ollama -v</font>验证安装是否成功。正确安装将显示版本号。
   • 如何打开终端：
     • Mac：找到终端工具。
     • Windows：使用Win+R输入cmd。

然后检查

ollama -v

下载完成后，按照安装向导的提示逐步完成安装。在安装过程中，Ollama 服务会自动在电脑后台运行。

二、模型部署

1. 选择模型版本：
   • 打开Ollama模型库，选择适合自己电脑硬件的DeepSeek-R1模型版本（1.5B、7B、32B等）。

以下是本地部署 DeepSeek 系列模型（1.5B、7B、8B、14B、32B）在 Windows、macOS、Linux 三个平台的最低和推荐硬件配置指南。配置需求主要基于模型的显存（GPU）、内存（RAM）和计算资源需求，同时考虑不同平台的优化差异。

通用配置原则

1. 模型显存占用（估算）：
   • 每 1B 参数约需 1.5-2GB 显存（FP16 精度）或 0.75-1GB 显存（INT8/4-bit 量化）。
   • 例如：32B 模型在 FP16 下需约 48-64GB 显存，量化后可能降至 24-32GB。
2. 内存需求：至少为模型大小的 2 倍（用于加载和计算缓冲）。
3. 存储：建议 NVMe SSD，模型文件大小从 1.5B（约 3GB）到 32B（约 64GB）不等。

分平台配置建议

以下按模型规模和平台分类，提供 最低配置 和 推荐配置。

1.5B 模型

7B/8B 模型

14B 模型

32B 模型

平台差异说明

1. Windows：
   • 依赖 CUDA 和 NVIDIA 驱动，推荐使用 RTX 30/40 系列。
   • 大模型（14B+）需借助量化或模型分片技术。
2. macOS：
   • 仅限 Apple Silicon 芯片（M1/M2/M3），依赖 Metal 加速。
   • 模型规模超过 14B 时性能显著下降，建议量化或云端部署。
3. Linux：
   • 支持多 GPU 扩展和高效资源管理（如 NVIDIA Docker）。
   • 适合部署大型模型（14B+），需专业级硬件。

注意事项

• 量化优化：使用 4-bit/8-bit 量化可大幅降低显存需求（如bitsandbytes[6]）。
• 框架支持：优先选择优化好的库（如 vLLM、DeepSpeed、HuggingFace）。
• 散热：长时间推理需确保散热（建议风冷/水冷）。

建议根据实际需求选择硬件，并优先在 Linux 环境下部署大模型。

（二）顺利下载与稳定运行

确定适合自己电脑配置的模型版本后，就可以开始下载和运行模型了。打开终端或 CMD 命令窗口，输入对应的运行指令：

• 若选择 1.5B 版本，输入 ollama run deepseek-r1:1.5b 。
• 若选择 7B 版本，输入 ollama run deepseek-r1:7b 。我 Mac 选择的是这个。
• 若选择 8B 版本，输入 ollama run deepseek-r1:8b 。
• 若选择 32B 版本，输入 ollama run deepseek-r1:32b 。

三、打造专属AI聊天室

（一）安装配置 “Cherry Studio”

前往Cherry Studio 官方网站****，根据你的操作系统（支持 Windows、Mac 和 Linux）下载对应的安装包

1. 安装

下载完成后，对于 Windows 系统，双击安装包，按照安装向导提示完成安装，期间可能需要同意用户协议、选择安装路径等常规步骤；对于 Mac 系统，将下载的应用程序文件拖移到 “应用程序” 文件夹；

1. 配置

打开 Cherry Studio，在设置中找到 “模型设置” 选项。

• 模型选择：从模型列表中选择与你本地部署的 DeepSeek-R1 模型版本对应的选项，如果没有直接匹配项，选择支持自定义模型配置的入口。
• 自定义配置：在自定义配置中，将 API 地址设置为http://localhost:11434 ，这是 Ollama 服务的默认接口地址，确保 Cherry Studio 能连接到本地运行的 DeepSeek-R1 模型。
• 模型参数设置：根据你的硬件配置和使用需求，设置模型的相关参数，如最大生成长度、温度等，一般默认参数即可满足常见需求，但对于特定任务，你可以适当调整，比如生成创意文本时，可将温度调高至 0.8 - 1.0，以增加文本的多样性；进行严谨的知识问答时，可将温度调低至 0.5 - 0.7 ，使回答更稳定。
• API 密钥大家随意设置就好，然后点击检查就好。

配置完成后大家记得默认模型也可以配制成 deepseek。

（二）安装配置 Chatbox 客户端

Chatbox AI 是一款 AI 客户端应用和智能助手，支持众多先进的 AI 模型和 API，可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用

为了更便捷地与部署好的 DeepSeek-R1 模型进行交互，你可以下载开源客户端 Chatbox。访问官网[8] 即可进行下载。Chatbox 支持中文界面与 Markdown 渲染，使用起来非常方便。

下载安装好 Chatbox 后，打开软件进行关键配置：

• API 类型：选择 “OLLAMA”，这一步能确保 Chatbox 与我们部署的 DeepSeek-R1 模型进行正确通信。
• 接口地址：填写http://localhost:11434 ，这个地址是 Ollama 服务的默认接口地址，通过它 Chatbox 可以连接到本地运行的 DeepSeek-R1 模型。
• 模型名称：务必填写与之前下载的模型版本完全一致的名称，例如，如果之前下载的是 7B 版本，模型名称就必须填写 deepseek-r1:7b ，否则可能会导致连接失败。

通过以上步骤，你不仅可以使用 Cherry Studio 还能通过 Chatbox 与本地部署的 DeepSeek-R1 模型进行交互。希望大家都能顺利部署，开启属于自己的 AI 探索之旅。大家遇到问题也可以在后台私信我。

四、如何使用DeepSeek

1. 使用公式：
   • 按照身份、任务、细节、格式的顺序重组问题，以获得所需结果。