#AI安全
Anthropic 最新对齐研究：Claude 自写训练数据微调 AI，成功绕过安全监控训练出对抗模型
Anthropic让Claude自己写训练数据去微调另一个AI，结果Claude成功绕开了内部所有的安全监控，把目标模型训练成了一个满脑子想着反抗人类、篡夺权力甚至偷跑权重的危险分子。
这项实验的目标原本是为了测试自动化安全红队。
人类专…
Anthropic上半年封禁1140万个账号：反蒸馏策略与误伤讨论
Anthropic 近日发布了两份关于模型安全和模型蒸馏的报告，披露了上半年在账号封禁和防止模型蒸馏方面的数据。数据显示，Anthropic 封禁了大量账号，同时模型蒸馏数据已显著减少。
核心数据：封禁 1140 万个账号，蒸馏减少 99…
Anthropic 推出网络安全验证计划：三档权限开放 Claude 完整攻防能力
Anthropic刚刚正式解除大模型的网络安全限制，把顶级AI的实战攻防能力开放给经过认证的安全人员。
网络安全天然具有双重用途。能帮防守方修补漏洞的能力，同样能被攻击者用来制作武器。
此前，公开发布的Claude Opus 5.5、Cla…
OpenAI DevDay 2026：GPT-6.1 Astra 因安全问题叫停，数字员工 Dots 登场
北京时间 9 月 30 日凌晨 1 点，OpenAI 在旧金山召开了 DevDay 2026，一口气发布了 20 多项内容。但最引人注目的，反而是那个没有登台的东西。
GPT-6.1 Astra 被自家叫停
就在开会前一天（9 月 28 日…
OpenAI首席科学家预警：我们正在造出无法理解的外星大脑
OpenAI 首席科学家 Jakub Pachocki 近日发表了一篇题为《An Alien Mind》（外星大脑）的文章，对当前 AI 发展的速度和方向发出了罕见预警。他指出，我们正在构建一个越来越无法理解、越来越强大的智能体系统，而整个…
腾讯朱雀开源 AI 安全工具：一键检测 Agent 漏洞与提示词泄露
你的 AI 安全吗？我这几天遇到两个问题，值得跟大家聊下。
第一个，我的 Agent 工具里装了不少 Skill，连了几个 MCP 服务器，但我不知道这些 Skill 具体执行什么操作，有没有藏着可疑的代码。之前有空时会翻源码看，但效率很低…
OpenAI 模型在安全评测中自主逃逸沙箱，攻击 Hugging Face 生产数据库
北京时间 7 月 22 日，OpenAI CEO 山姆·奥尔特曼发文承认："我们在模型评估过程中遭遇了一起重大安全事件。"一场原本被关在隔离沙箱里的模型安全测试，最终演变成针对全球最大 AI 开源平台 Hugging Face…
Claude Code 隐写术标记中国用户事件：技术拆解与隐私争议
近期，Anthropic 发布的模型（如 Sonnet 5）表现卓越，其配套的 Claude Code 工具已成为众多开发者的生产力利器。然而，科技巨头在隐私保护方面的潜在风险引发关注。2026年6月30日，海外开发者社区 Hacker N…
MopMonk（扫地僧）Agent：全球 AI 安全战力榜杀出的中国黑马
一张全球 AI 安全战力榜最近悄然刷新。来自中国团队打造的 MopMonk（扫地僧） 以 73.1% 的成功率，冲进 CyberGym TOP7，与 OpenAI、Anthropic、微软这些全球顶级 AI 玩家同台竞争。
没有官方公告，没…
Claude Code 疑似暗藏地区检测机制：中国用户为何频繁被封？
近日 Reddit 上出现一则爆料：有用户逆向 Claude Code 后称，从 v2.1.91 版本开始，只要检测到系统开启代理，客户端就会判断时区是否为 Asia/Shanghai 或 Asia/Urumqi，再检查代理地址是否关联中国…