楼主
在找模型游玩时发现,很多模型动辄都需要五六个g以上,对于很多内存紧张的人来说,这简直就是噩梦
原帖: linux.sb/topic/10973 · 共 7 楼 · 标题快照 2026-08-12 10:29:39
在找模型游玩时发现,很多模型动辄都需要五六个g以上,对于很多内存紧张的人来说,这简直就是噩梦
手机?
手机才多少显存啊 可能只能2B模型2bit量化能流畅吐字?
MiniCPM 试试吧,我之前用过阵子。。。还可以
Qwen2.5-0.5B?
Google AI Edge Gellery
ios用Locally app可以跑千问3.5(4b)模型,Gemma 4(E2B)