在 树莓派4B 上运行 Deepseek-R1 1.5B模型

零、宇宙超级无敌免责声明

由于树莓派的CPU过于辣鸡,所以运行Deepseek时会有严重的发热量,可能会造成过热关机等问题,请在此之前做好树莓派散热工作。在树莓派上运行Deepseek仅供娱乐,在不超频的情况下,树莓派4B只有1.5 tokens/s的样子,速度比较慢,1.5B就不要抱有生成代码了。

一、准备工作

首先,你需要台电脑、SD卡(或USB SSD硬盘、u盘)、树莓派4B

打开电脑,将SD卡插入,打开raspberry pi imager,如果你没有这个烧录软件,你可以“点击此处”前往官网下载页面下载。

打开之后选择树莓派型号,这里我用的是树莓派4B

然后选择操作系统,这里使用Raspberry Pi OS 64位

选好系统后选择SD卡,点击右下角next跳出这个页面,选择编辑设置

设置用户名和WiFi

选择services,启用SSH服务

选择保存后单击“是”

开始烧录镜像

烧录完成后,将SD卡拔出装到树莓派上,接通电源开机,等待系统启动

二、系统设置

开机以后,使用XShell登陆树莓派的SSH,修改镜像源。

我们将源改为清华源,打开清华大学开源镜像站,找到树莓派的软件仓库

 

打开软件仓库的文档

sudo nano /etc/apt/sources.list.d/raspi.list

将里面所有内容删除,替换为

deb https://mirrors.tuna.tsinghua.edu.cn/raspberrypi/ bookworm main

然后输入ctrl+x返回,输入y回车保存,输入以下命令更新软件源

sudo apt update

至此,已完成换源

三、安装ollama

进入ollama官网

输入ollama的一键安装脚本

curl -fsSL https://ollama.com/install.sh | sh

可能会遇到网络原因造成安装失败,可以等一会后重新输入重试

四、安装Deepseek R1 1.5B

 

ollama run deepseek-r1:1.5b

下载完成后会自动进入,下次输入上方命令即可启动


End

编写:咕咕咕的秋风

上一篇