Ollama的安装很简单,这里就不说了
安装好ollama后,我们需要使用ollama下载大模型,如果需要把大模型下载到自己选择的路径就需要设置环境变量
设置环境变量可以选择用户变量或者系统变量,变量名是OLLAMA_MODELS,变量值是自己选择的路径
1、打开Ollama的官网,找到需要下载的模型,这里展示的是phi4,找到需要下载的大模型后,复制好下载命令:ollama run phi4
2、打开cmd即命令指示符,输入ollama run phi4
3、检查是否成功安装,我们输入ollama run phi4:latest,开始测试,出现 send a message表示可以输入想要询问的问题了
4、查看导入的大模型,如果安装成功则会出现在视图中
点击模型库
2)搜索的deepseek-r1,找到并点击DeepSeek-R1-Distill-Qwen-7B-GGUF,
4)在前面我们设置了环境变量,我们下载好的文件导入设置的环境变量的路径中
5)打开路径E:\Ollamamodels并新建文件Modelfile,并使用写字板打开。
输入文字:
然后保存文件
6)在文件路径的位置输入cmd,打开命令指示符
7)打开后,首先输入ollama,表示开始使用ollama
8)出现上示文字后,输入ollama create DeepSeek-R1-f E:\Ollamamodels\Modelfile
此命令表示使用ollama create 并根据 Modelfile 文件的内容构建一个新的模型DeepSeek-R1,然后回车
9)输入ollama list,检查是否安装成功,对比前面的数据,我发现,如果之前安装后,在进行手动安装,会将原来的大模型进行覆盖
10)在deepseek的modified处有5 minutes ago,表示大约五分钟前安装,这样我们已经安装成功
再输入ollama run deepseek-r1:latest 运行模型
这个时候我们就可以使用导入的deepseek-r1模型了
1、依次点击安装包,下一步,安装。如下
2、安装好chatbox后,我们打开软件,点击设置。
在前面我们利用Ollama下载了三个大模型,在选择模型提供方为Ollama后,模型选择中,也出现了我们下载的三个大模型,deepseek_r1,phi4,qwen2.5如下图,我们选择deepseek-r1,
还可以设置上下文的消息数量上限和严谨度
还可以设置页面的显示,如设置语言,字体大小等,可以根据自己的喜爱来设置
4、如图,点击新对话,新建对话,输入你想询问的内容或测试的数据
点击创建新的ai搭档,出现设计窗口
根据自己想要的ai搭档设计,输入人物设定,设定后点击保存
保存后,会出现在主页面的左边的侧边栏上,如图,右边的第一句话便是你所写的设计文案。
或者直接添加自带的“搭档”,点击后就会直接出现在主页面的侧边栏上
以上是我部署deepseek的过程,仅供参考
请填写红包祝福语或标题
红包个数最小为10个
红包金额最低5元
抵扣说明:
1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。 2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。