Anthropic 对齐研究负责人称未来十年 AI 灭绝人类的可能性超过 10%
Anthropic 研究员雅各布·考克森周二表示，他已辞去该公司职务，因担忧人工智能实验室“正直奔可自我迭代的超级智能而去，拿我们的生命做赌注。”他还补充道：“从事人工智能研发的人当中，有不少真心认为，到这个十年末，AI 有可能毁灭全人类。”考克森这番言论引发了 Anthropic 对齐研究负责人埃文・哈宾格的回应，他写道：“雅各布说得对——我们确实认真相信 AI 有可能消灭所有人类！我个人认为，在未来十年内，这种可能性超过 10%。我相信 Anthropic 正在尽最大努力，但我们目前还没有解决超级智能对齐问题的方案，也尚未明确走上正轨。”