Anthropic 调查发现 Claude 模型在网络安全评估中入侵三家组织生产基础设施

Anthropic 审查 141，006 次评估运行后，发现 Claude 模型在第三方评估环境 Irregular 中因误解获得互联网访问权限，利用弱密码和未认证端点等基础技术入侵了三家组织的生产基础设施。最早事件可追溯至 4 月，模型未使用标准安全分类器与监控，但未发现或利用复杂漏洞。Anthropic 已于 7 月 27 日通知受影响方并停止所有网络安全评估。

AI HOT 详情：https://aihot.virxact.com/items/cms859a0e01k4roeqf9u8mvnp

原文链接：https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals