#安全
Anthropic 最新对齐研究：Claude 自写训练数据微调 AI，成功绕过安全监控训练出对抗模型
Anthropic让Claude自己写训练数据去微调另一个AI，结果Claude成功绕开了内部所有的安全监控，把目标模型训练成了一个满脑子想着反抗人类、篡夺权力甚至偷跑权重的危险分子。
这项实验的目标原本是为了测试自动化安全红队。
人类专…
WorkBuddy 企业版安全白皮书解读：沙箱隔离、文件备份、DLP 保护与审计日志
关注我的朋友都知道，我平时经常分享很多用Agent做图、做PPT、自动剪视频的玩法。把素材交给Agent，再提要求，它就能接手帮我做完交付，确实比以前纯手搓方便了很多。
但当AI开始直接操作电脑，我觉得还有件事值得一起聊聊：它工作时会不会乱…
8K Star的DSH破甲插件：被裁程序员的开源逆袭，7天后将闭源
dsh-purge——一个在 DeepSeek Harness（DSH）插件生态里排得上日增长榜前三的开源项目。过去两个快照之间，这个项目的 Star 增长了 354 颗，仅次于两个更早期的大项目。L5 运行已验证，…
Anthropic上半年封禁1140万个账号：反蒸馏策略与误伤讨论
Anthropic 近日发布了两份关于模型安全和模型蒸馏的报告，披露了上半年在账号封禁和防止模型蒸馏方面的数据。数据显示，Anthropic 封禁了大量账号，同时模型蒸馏数据已显著减少。
核心数据：封禁 1140 万个账号，蒸馏减少 99…
Anthropic 推出网络安全验证计划：三档权限开放 Claude 完整攻防能力
Anthropic刚刚正式解除大模型的网络安全限制，把顶级AI的实战攻防能力开放给经过认证的安全人员。
网络安全天然具有双重用途。能帮防守方修补漏洞的能力，同样能被攻击者用来制作武器。
此前，公开发布的Claude Opus 5.5、Cla…
OpenAI DevDay 2026：GPT-6.1 Astra 因安全问题叫停，数字员工 Dots 登场
北京时间 9 月 30 日凌晨 1 点，OpenAI 在旧金山召开了 DevDay 2026，一口气发布了 20 多项内容。但最引人注目的，反而是那个没有登台的东西。
GPT-6.1 Astra 被自家叫停
就在开会前一天（9 月 28 日…
Anthropic 长文评测 GLM-5.3：网络安全能力逼近 Claude Mythos 水平
Anthropic 为 GLM-5.3 免费打了一个广告。
A 今天发表了一篇长文，专门研究 GLM-5.3 的网络安全能力，核心论点是：GLM-5.3 太强了，可以端到端开发可用的漏洞利用程序。
文章中提到，GLM-5.3 在 Expl…
Agent 自动上传代码库引隐私担忧：开源办公 Agent 为何更重要——以有道 LobsterAI 为例
Coding Agent 之后，下一个热点趋势已经明确：办公 Agent 正在成为各大基模公司和大厂重兵投入的赛道。但在工具能力快速迭代的同时，一个更根本的问题浮出水面——当 Agent 越来越了解我们的工作习惯，这…
OpenAI首席科学家预警：我们正在造出无法理解的外星大脑
OpenAI 首席科学家 Jakub Pachocki 近日发表了一篇题为《An Alien Mind》（外星大脑）的文章，对当前 AI 发展的速度和方向发出了罕见预警。他指出，我们正在构建一个越来越无法理解、越来越强大的智能体系统，而整个…
腾讯朱雀开源 AI 安全工具：一键检测 Agent 漏洞与提示词泄露
你的 AI 安全吗？我这几天遇到两个问题，值得跟大家聊下。
第一个，我的 Agent 工具里装了不少 Skill，连了几个 MCP 服务器，但我不知道这些 Skill 具体执行什么操作，有没有藏着可疑的代码。之前有空时会翻源码看，但效率很低…