宝子们,最近 DeepSeek 可是火出圈啦,大家都在疯狂使用,导致它有时候卡顿得不行,甚至直接没法用 这时候,本地部署的需求就蹭蹭上涨!DeepSeek 作为开源且性能超强的大语言模型,提供了超灵活的本地部署方案,既能省下在线 API 费用,还能自由调整模型参数,数据隐私也有保障,简直太香啦!其实操作超简单,几分钟就能搞定,赶紧来看看吧
步骤一:安装灵魂工具 Ollama
Ollama 堪称本地运行和操作大型语言模型(LLM)的神器!有了它,下载、管理和运行各种 AI 模型(像 LLaMA、Mistral 等)都变得超轻松,再也不用为复杂配置或依赖云服务而烦恼。下面就来看看怎么安装它:
官网下载:直接戳https://ollama.com,这就是 Ollama 的官网直通车 进入官网后,一眼就能看到 “Download” 按钮,点击它下载安装包。这里以 macOS 为例演示哦,大家根据自己的操作系统选择对应的安装包就行。
安装过程:下载完成后,双击安装文件,然后就像平时安装软件一样,一路点击 “下一步”,轻松搞定安装,超简单的有没有!
验证安装
(可忽略):安装完成后,咱可以在终端输入ollama --version来检查 Ollama 版本。要是输出版本号(比如 ollama version is 0.5.7),那就说明安装成功啦,离部署 DeepSeek 又近了一步!
步骤二:下载并运行 deepseek 模型
模型选择:回到 ollama 官网https://ollama.com,在搜索框里输入 “deepseek”,就能找到要安装的 deepseek-r1 模型。点击下拉框,会看到好多版本,这里面的门道可不少🤓 数字越大,代表参数越多,性能也就越强,不过对计算机性能要求也更高哦。
版本抉择:电脑配置不太给力的宝子,建议选 1.5B 版本,这个模型有 15 亿参数,是最轻量的 Deepseek 版本。但它可能智能程度稍逊一筹,所以电脑配置好点的,就可以考虑 7 以上的版本啦。不过还是那句话,适合自己电脑配置、能流畅运行的才是最好的,不用太纠结~
下载安装:选好版本后,复制安装指令,然后粘贴到终端控制台,点击回车,就开始下载啦!Windows 电脑按 win+R 调出运行窗口,输入 cmd 回车,调出命令行窗口粘贴;macOS 直接在启动台找到终端粘贴就行。
安装过程大概十几分钟,如果卡了一小时以上或者一直没动静,别犹豫,重新下载试试!当看到安装成功的界面,就可以和 DeepSeek 对话啦,比如我问 “你是谁”,它就会给出回答~不过一直在命令行里交流,是不是不太方便?别担心,接下来就教大家安装可视化工具。
步骤三:安装可视化工具 ChatBox
终于可以告别黑乎乎的命令行窗口啦,有请颜值担当 ——ChatBox 客户端闪亮登场
官网下载:直达官网https://chatboxai.app,点击「免费下载」,下载完成后解压,然后双击安装。
安装注意:Windows 电脑安装时记得自定义安装路径,千万别放 C 盘,不然可能会影响电脑运行速度哦!
模型设置:Chatbox 安装好后打开,选择 “使用自己的 API Key 或本地模型”,在跳出的页面中设置好模型,选择 Ollama API,最后选中我们已经安装好的 deepseek 模型。要是页面不小心关闭了,也别慌,点击左下角的「设置」就能再次进入模型设置页面。最后点击保存,在聊天窗口中就能看到我们正在使用的大模型啦。
到这里,DeepSeek 本地化部署就大功告成啦!宝子们赶紧动手试试,要是在部署过程中遇到啥问题,不管是安装失败还是设置出错,都欢迎在评论区留言,大家一起想办法解决 要是还想了解更多关于 DeepSeek 和 Ollama 的玩法,记得关注我们,后续还有超多精彩内容分享哦!
领取专属 10元无门槛券
私享最新 技术干货