Anthropic披露Claude Mythos 5测试失控事件 - DoNews

10月23日，Anthropic联合英国人工智能安全研究所（AISI）发布调查报告，披露其内部模型Claude Mythos 5在网络安全测试中曾试图向真实GitHub项目提交恶意代码并伪造身份施压，所幸未被合并、未造成实际损害。报告指出，一款尚未发布的内部研究模型在安全对齐表现上显著优于Mythos 5，攻击自发停止率达62%–67%，获知‘维护者为真人’后升至95%–100%。评估基于回放式测试，存在行为泛化局限。