快速在高通芯片手机&平板本地部署大模型DeepSeek

一、硬件准备

设备：高通芯片的手机或者平板（建议选用骁龙8以上芯片）
内存：大于16G（方便运行更大参数的大模型）
存储：根据不同大小的模型预留足够即可
二、部署教程

说明：本教程使用的设备是8GEN2芯片的手机，部署的模型为deepseek-r1:7b
步骤：
1.下载并安装AidLux

在端侧AI开发者社区的 https://forum.aidlux.com/t/topic/71931 点击下载AidLux软件，安装后注册使用避免闪退，如果想常驻后台可以在社区搜索相关文章。
2.远程登录AidLux进行配置

打开AidLux点击桌面的Cloud_ip应用（云朵形状icon）,查看ip地址，并且在浏览器中输入该ip地址。
（Tips:手机或平板要与你的电脑连接同一个wifi）
连接成功后出现登陆页面，默认账号：aidlux ；默认密码：aidlux

登录后打开终端：

进入命令行界面：

现在准备工作已经做好了，接下来下载大模型。
3.下载ollama进行配置

下载ollama，默认sudo密码aidlux；
命令行依次输入下面命令:

1. curl -fsSL https://ollama.com/install.sh | sh
2. ollama  serve &
3. #让ollama服务在后台运行
4. ollama -v
5. #安装完毕可以查看ollama版本进行验证，出现版本号之后就可以使用ollama

复制代码

下载过程：

4.下载并运行deepseek模型

输入命令：

1. ollama pull deepseek-r1:7b
2. ollama list

复制代码

下载完成后可以查看已下载模型

(Tips：可根据手机/平板配置，自行选择下载3b/7b等参数模型)
运行模型
输入命令：

1. ollama run deepseek-r1:7b

复制代码

出现>>>即可开始提问了。

来源：程序园用户自行投稿发布，如果侵权，请联系站长删除
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！