DeepSeek是深度求索公司推出的一款功能强大的AI大模型,于2025年1月11日上线。DeepSeek-R1性能对标OpenAI的o1,正式版,它的手机版应用也曾一度在美区App Store单日下载量榜首。这一举措,让DeepSeek得以更加大众化,其身影频频出现在大众视野。
然而,由于用户与DeepSeek进行对话时频繁出现“服务器繁忙,请稍后再试”的情况,这的确会让人感到困扰。那么,有什么方法可以解决这一问题呢?
答案是通过本地部署DeepSeek大模型。此方法虽需较高的电脑配置,但普通的用户仅能部署“残血版”的DeepSeek模型,然而,对于用户的信息时效性要求不高的话还是可以勉强使用的。接下来就让我们步入正题,为大家分享一篇DeepSeek本地部署保姆级教程。
①本地安装Ollama
这里要说明的是,Ollama是一个开源框架,有了它,我们就可以在本地运行大模型。至于其它的,只需要知道这一点就够了。
进入Ollama官网,选择合适的版本进行下载和安装。
官方网站:
根据您的操作系统选择对应的Ollama版本进行下载。
安装完成后,会弹出命令行界面,Ollama本身并不具备可视化操作,但不影响后续的使用。
有了这些基础,接下来继续。
②下载DeepSeek-R1模型
访问下方链接,选择并下载您需要的一版DeepSeek模型。这里以最小的1.5b版本为例进行演示。
在右侧行中找到并复制对应的安装命令。
模型的相关参数参照标准如下:
复制命令并粘贴到命令行界面运行。下载速度与您的网络环境有关。
一旦下载成功,命令行上会出现提示信息“success”即表明模型下载完成。
在命令行里输入“ollama list”,检查本地已有的模型并确认本地部署完成。
输入命令“ollama run deepseek-r1:1.5b+问题”即可进行AI对话。如果你的是7b模型,命令格式为“ollama run deepseek-r1:7b+问题”。
显而易见,直接在命令行里对话很low,我们需要借助一个第三方的AI客户端来调用本地模型,以便获得更佳的用户体验。
③通过Cherry Studio调用模型
官方官网支持:
下载后在客户端登录并设置接口,确保API地址与我们本地安装的地址相同。
客户端登录后,在弹出的窗口中,您可以查看到您本地已有的模型,并选择安装。
最后,进入对话页面调用本地部署的Model并选择,即可完成整个过程。
至此,游讯宝与大家分享了使用Ollama实现DeepSeek本地部署的保姆级教程全部内容,希翼对您的使用有所帮助。
```文章为游讯宝所有,未经允许不得转载。
软件推荐
更多