大家好,我是小义。相信大家在使用DeepSeek的时候会时不时遇到服务器繁忙的问题,这是因为全球用户基数庞大带来的响应延迟、跨境网络攻击频发等迫使平台收紧安防。
那么为什么不选择自己本地部署一套呢,相比起API调用,DeepSeek本地部署具有以下几个优点。
今天小义就教大家零成本在个人电脑部署国产顶尖大模型DeepSeek!无需高端显卡,小白也能轻松玩转百亿参数模型。
Ollama是一个开源框架,专为在本地机器上便捷部署和运行大型语言模型(LLM)而设计。其主要目标是简化在Docker容器中部署大型语言模型的过程,使得非专业用户也能方便地管理和运行这些复杂的模型。
Ollama 网址:https://Ollama.ai。 配合Chrome插件Page Assist可实现图形界面对话。
1、进入https://ollama.com/download,这里以Windows系统为例,点击下载。
2、本地运行ollamaSetup.exe,点击install,然后等待安装完成。
Page Assist,一个开源的WEBUI,用于可视化的模型对话,特点是可接入联网搜索,并且很方便能配合嵌入模型。
推荐谷歌浏览器,在扩展程序的应用商店里即可安装。
点击【Page Assist】插件即可打开 DeepSeek 的可视化界面,点击RAG设置文本嵌入模型,然后就可以和AI聊天了。
Page Assist默认的搜索引擎是duckduckgo,不科学上网是无法正常使用导致的,可以选择切换。
为提高搜索的准确性,还应适当提高Total Search Results网页搜索数量,这样DeepSeek回答的也更准确。
DeepSeek实在太火爆了,相信大家都感受到了强烈的推背感,小义建了个学习交流群,欢迎扫码加入,一个人可以走得很快,但一群人,可以走得更远。AI时代,一起扬帆起航!