因担忧 AI 失控，一名 Anthropic 研究员离开行业
金十数据 9 月 9 日讯，Anthropic 的一名研究员正退出人工智能行业，原因是他担心该 AI 实验室及其竞争对手正竞相开发无法受控的系统。Jacob Coxon 是一位专门从事通过海量数据训练新 AI 模型的研究员。他周二表示将离开公司，因为他不愿参与全行业竞相开发具备自我改进能力的 AI 系统；他担心此类系统可能失控并毁灭人类。这位主修数学的 27 岁英国人此前表示，许多业内同事如今用“决战时刻”（crunchtime）和“终局”（endgame）等词汇来形容 AI 向自我改进型模型发展。“我们正朝着那些最激进的情景发展，到明年年底，局势可能就已经失控了，”Coxon 说道。他补充称，当公司之间展开竞争时，在安全性方面做出妥协往往在所难免。