#微信大模型
微信WeLM大模型Hidden Decoding更新：潜空间计算扩展到100B+ MoE架构
微信自研大语言模型 WeLM 近日再次更新。WeLM 官方博客发布了一篇题为《Hidden Decoding at Scale：面向前沿大模型的潜空间计算扩展》的技术论文，将此前已在中小规模模型上验证的「隐式解码」机制，扩展到了 100B+…