#端侧 AI

1-bit Bonsai 8B 大模型详解:8B 参数压缩至 1.15GB,手机也能跑 AI
你手机里装了多少个 App?如果我问你,能不能在手机上跑一个 80 亿参数的大语言模型,你大概率会摇头——毕竟一个常规的 8B 模型至少需要 16GB 显存,手机那点内存根本装不下。 但就在上周,一家来自 Calte…
谷歌发布 Gemma 4 全能模型,2 步教你在手机完美运行,离线且免费!
前几天,Google DeepMind 发布了 Gemma 4,这个新一代开源大模型家族。配合他们之前的 Google AI Edge Gallery App,你现在可以在手机上、完全离线地跑一个相当聪明的 AI。 Gemma 4 是一个能…