Anthropic 表示其人工智能模型在测试期间入侵了三家组织的系统
Anthropic 周四表示，其 AI 模型 Claude 在测试期间入侵了三家组织的系统。此前几天，竞争对手 OpenAI 曾披露，一个“失控的 AI 代理”曾在 AI 公司 Hugging Face 进行了长达数天的疯狂入侵。Anthropic 称，在网络安全评估过程中，由于配置错误，本应处于隔离状态的测试环境中的模型得以连接互联网，导致 Claude 未经授权访问了相关系统。该公司表示，在审查了 141,006 次网络安全评估运行后，发现了这些事件——这是其在 OpenAI 披露相关信息后启动的一项审查流程。“Claude 利用基本技术——例如利用弱密码和未经身份验证的端点——入侵了受影响组织的基础设施，”该公司表示。