软件介绍
DeepSeek-R1,是深度求索(DeepSeek)研发的推理模型,本地部署后完全免费,无使用次数限制。DeepSeek-R1采用的大规模强化学习技术,尤其擅长数学、代码和自然语言推理等复杂任务。DeepSeek-R1系列模型(1.5b~671b)开源且免费,进一步降低了AI应用门槛,赋能开源社区发展。
- 软件大小:999.3M/808M
- 安装环境:Win
DeepSeek详细教程:
❶Win版安装教程(Ollama+AnythingLLM安装、DeepSeek模型下载)
一、Win版安装教程
1.选择下载的安装包右键解压。
2.解压后,右键以管理员身份运行Ollama安装程序。
3.点击Install安装完成即可。
4.在D盘新建一个文件夹命名为OllamaAI,然后打开系统环境变量,新建变量名:OLLAMA_MODELS 变量值:D:\OllamaAI,设置完成后重启电脑。
温馨提示:此步主要是解决Ollama默认下载模型到C盘问题,若C盘空间足够大的小伙伴此步骤可略过。
5.重启电脑后,在开始菜单找到Ollama程序打开,打开后在电脑右下角会有一个羊驼图标显示。
6.按快捷键Win+R,输入cmd确定。
7.输入ollama run+模型名称,按回车键即可下载(看下面附图硬件要求选择下载其中一个或多个,此过程可能有点慢,若下载失败重新输入命令下载即可),如下:
ollama run deepseek-r1:1.5b
ollama run deepseek-r1:7b
ollama run deepseek-r1:8b
ollama run deepseek-r1:14b
附:各模型大小与电脑硬件要求,根据自己电脑硬件配置选择下载适合的模型。
- 模型名称:ollama run deepseek-r1:1.5b 模型大小:1.1GB 显存:4GB+ 运行内存:8GB+
- 模型名称:ollama run deepseek-r1:7b 模型大小:4.7GB 显存:12GB+ 运行内存:16GB+
- 模型名称:ollama run deepseek-r1:8b 模型大小:4.9GB 显存:16GB+ 运行内存:32GB+
- 模型名称:ollama run deepseek-r1:14b 模型大小:9GB 显存:24GB+ 运行内存:64GB+
8.❶deepseek-r1模型下载完成后(提示success即是下载完成),❷在CMD新窗口中输入命令ollama pull nomic-embed-text回车下载nomic-embed-text嵌入式模型(后面做数据投喂会用到)。
温馨提示:若是要删除模型,输入命令ollama rm+模型名称,如ollama rm deepseek-r1:14b
9.deepseek-r1与nomic-embed-text模型下载完成后,开始安装AnythingLLM软件。
10.选择【所有用户】点击下一步。
11.修改路径地址中的首字符C可更改安装位置,本例安装到D盘,点击下一步。
12.安装中…,安装到提示下载ollama_lib.zip可点击取消,不然要等1小时间才能下载完成。
13.点击完成。
14.点击【Get started】。
15.点击箭头,进行下一步。
16.输入工作区名称,点击下一步箭头。
17.点击【设置】,里面可以设置模型、界面显示语言等。
附:若软件显示英文,可在Customization外观定制里面选择Chinese即可。
二、AnythingLLM设置(Mac与Win设置方法一样)
1.在软件设置里面,LLM首选项界面,提供商选择Ollama,Ollama Model选择你前面下载的DeepSeek-R1系列模型1.5b~671b,然后点击Save changes。
2.在Embedder首选项界面,嵌入引擎提供商选择Ollama,Ollama Embedding Mode选择【nomic-embed-text】,然后点击保存更改。
3.点击【工作区设置】。
4.聊天设置界面,❶工作区LLM提供者选择【Ollama】,❷工作区聊天模型选择【deepseek-r1】模型,❸然后点击【Update workspace agent】。
5.代理配置界面,工作区代理LLM提供商选择【Ollama】,工作区代理模型选择【deepseek-r1】,然后点击【Update workspace agent】。
三、如何投喂数据(训练AI)
1.在工作区界面,点击【上传】。
2.❶点击upload选择需要上传的文件(支持PDF、Txt、Word、Excel、PPT等常见文档格式)。❷勾选上传的文件,❸点击【Move to Workspace】。
3.点击【Save and Embed】。
四、DeepSeek-R1应用展示
1.没有投喂数据之前,输入拾艺肆是干嘛的,AI是回答不了的,投喂后能够准确分析与解答出来。
2.3.8与3.11哪个大,之前有人说DeepSeek回答是错误的,可能当成了版本号,本次测试正确无误。
3.在设置【对话历史记录】界面,工作区聊天记录可以导出也可以删除。
特别注意:使用AnythingLLM软件之前,都要先打开Ollama软件,Mac打开后在右上角显示羊驼图标,Win在右下角显示羊驼图标。
本站内容均转载于网络,版权归原作者所有,仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任,如有侵权,请联系 1322812658@qq.com 删除
请登录后查看评论内容