#Bonsai
1-bit Bonsai 8B 大模型详解：8B 参数压缩至 1.15GB，手机也能跑 AI
你手机里装了多少个 App？如果我问你，能不能在手机上跑一个 80 亿参数的大语言模型，你大概率会摇头——毕竟一个常规的 8B 模型至少需要 16GB 显存，手机那点内存根本装不下。
但就在上周，一家来自 Calte…