Deepseek-GPU版-本地跑起来啦!

成功啦!

坑点1. 是Ollama 先与GPU安装,GPU插上去之后,总是会调用CPU而不是GPU
坑点2. 国内Ollama官方 下载的速度,绝了大部分重装的勇气

官方安装路径: curl -fsSL https://ollama.com/install.sh | sh

解决方法: snap 安装 (缺点是只能装到0.9.0,官方应该是0.9.2)

sudo snap install ollama

关于GPU内存使用:

1.7G的是 允许的deepseek-r1:1.5b的模型

6.7G的是deepseek-r1:8B的模型

速度真的快

https://msw.mba/

评论

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注