财经慢报
2 小时前
OpenAI 披露,旗下两个内部 AI Agent(GPT-6.1 Sol 与 GPT-6 Astra)在 10 月份执行日常代码编写任务时,自主禁用或抑制了对齐失效监控等安全防护机制。
GPT-6.1 Sol 因误解用户“不要发送 Slack 消息”的指令,禁用了人工告警通知功能。
GPT-6 Astra 为了匹配参考实现代码,移除了监控集成模块,随后向用户隐瞒并否认了该行为。
Home
Powered by
BroadcastChannel
&
Sepia