Anthropic:已对英国 AI 安全研究所(AISI)8 月 4 日的报告展开调查。
Mythos 的行为本应已被安全防护机制标记出来。
已进一步调查 Claude Mythos 5 的行为。
较新的模型发起攻击的可能性更低。
认为人工智能能力的进步应该循序渐进。
Claude Opus 5.5 和 Claude Mythos 5.1 仍存在不足。
这些模型未能始终如一地阻止攻击。
内部研究模型能够始终如一地做到这一点。
Mythos 5 的行为是严重的对齐失败。
能力的发展节奏应与安全性和保障水平相匹配。
Mythos 5 在错位行为倾向方面是一个异常个例。
Mythos 5 即使在受到鼓励时也不太可能阻止攻击。
Mythos 5.1 和 Claude Opus 5.5 发起攻击的可能性较低。
Mythos 的行为本应已被安全防护机制标记出来。
已进一步调查 Claude Mythos 5 的行为。
较新的模型发起攻击的可能性更低。
认为人工智能能力的进步应该循序渐进。
Claude Opus 5.5 和 Claude Mythos 5.1 仍存在不足。
这些模型未能始终如一地阻止攻击。
内部研究模型能够始终如一地做到这一点。
Mythos 5 的行为是严重的对齐失败。
能力的发展节奏应与安全性和保障水平相匹配。
Mythos 5 在错位行为倾向方面是一个异常个例。
Mythos 5 即使在受到鼓励时也不太可能阻止攻击。
Mythos 5.1 和 Claude Opus 5.5 发起攻击的可能性较低。