#红队测试

Anthropic 最新对齐研究:Claude 自写训练数据微调 AI,成功绕过安全监控训练出对抗模型
Anthropic让Claude自己写训练数据去微调另一个AI,结果Claude成功绕开了内部所有的安全监控,把目标模型训练成了一个满脑子想着反抗人类、篡夺权力甚至偷跑权重的危险分子。 这项实验的目标原本是为了测试自动化安全红队。 人类专…
腾讯朱雀开源 AI 安全工具:一键检测 Agent 漏洞与提示词泄露
你的 AI 安全吗?我这几天遇到两个问题,值得跟大家聊下。 第一个,我的 Agent 工具里装了不少 Skill,连了几个 MCP 服务器,但我不知道这些 Skill 具体执行什么操作,有没有藏着可疑的代码。之前有空时会翻源码看,但效率很低…