Anthropic 近日发布了两份关于模型安全和模型蒸馏的报告,披露了上半年在账号封禁和防止模型蒸馏方面的数据。数据显示,Anthropic 封禁了大量账号,同时模型蒸馏数据已显著减少。

核心数据:封禁 1140 万个账号,蒸馏减少 99%
报告指出,一旦系统识别出模型蒸馏特征,封禁速度最快不到两小时。这种严格的风控策略在防止模型蒸馏的同时,也可能导致部分正常用户因高频率使用或自动化脚本操作被误判。
数据显示,上半年共收到 398,000 次申诉,最终撤销封禁 42,000 次,胜诉比例仅约 10%。这表明 Anthropic 的召回率和精准度之间难以同时达到完美平衡,大量账号可能在严格的反蒸馏策略中被误杀。

完整思维链对蒸馏的影响
报告中的实验对比表明,仅有总结性思考过程的蒸馏效果较差,完整的思维链对模型蒸馏至关重要。目前来看,这种严格的反蒸馏措施使得其他模型难以获得高质量数据进行媲美 Claude 级别的训练。

微信指数趋势
从微信指数来看,关于 Anthropic 封号的讨论在国庆期间达到一个小高峰。即便在假期,平台的风控系统依然在持续运行。

总结
Anthropic 通过严格的反蒸馏策略保护了模型知识产权,但也引发了关于误伤正常用户和使用体验的讨论。随着反蒸馏措施的加强,获取高质量训练数据的难度进一步加大。
声明:本站原创文章文字版权归本站所有,转载务必注明作者和出处;本站转载文章仅仅代表原作者观点,不代表本站立场,图文版权归原作者所有。如有侵权,请联系我们删除。
未经允许不得转载:Anthropic上半年封禁1140万个账号:反蒸馏策略与误伤讨论