LINUX SB 快照站

有什么能够在手机上轻松运行的开源模型吗?

原帖: linux.sb/topic/10973 · 共 7 楼 · 标题快照 2026-08-12 10:29:39

楼主
发帖 2026-08-10 23:04:31 · 快照 2026-08-12 10:29:39

在找模型游玩时发现,很多模型动辄都需要五六个g以上,对于很多内存紧张的人来说,这简直就是噩梦

#1
发帖 2026-08-10 23:07:07 · 快照 2026-08-12 10:29:39

手机?

#2
发帖 2026-08-10 23:07:36 · 快照 2026-08-12 10:29:39

手机才多少显存啊 可能只能2B模型2bit量化能流畅吐字?

#3
发帖 2026-08-10 23:15:41 · 快照 2026-08-12 10:29:39

MiniCPM 试试吧,我之前用过阵子。。。还可以

#4
发帖 2026-08-10 23:17:56 · 快照 2026-08-12 10:29:39

Qwen2.5-0.5B?

#5
发帖 2026-08-10 23:26:21 · 快照 2026-08-12 10:29:39

Google AI Edge Gellery

#6
发帖 2026-08-10 23:32:20 · 快照 2026-08-12 10:29:39

ios用Locally app可以跑千问3.5(4b)模型,Gemma 4(E2B)