Anthropic 研究员辞职 警告称人工智能巨头在“拿人类生命作赌注”
Anthropic PBC 一名人工智能研究员辞职，并呼吁其他员工也重新思考自己的工作意义。他表示，Anthropic 及其主要竞争对手 OpenAI 在全力追求一种可能给人类带来存亡风险的技术过程中采取了不负责任的做法。过去三年曾先后在 Anthropic 和 OpenAI 工作的 Jacob Coxon 周二晚间在社交媒体发文警告，这两家公司正在推进能够“自我改进”的 AI 模型，而这些模型最终可能变得强大到人类无法控制。Coxon 在帖子中写道：“他们正径直奔向能够自我改进的超级智能，而且是拿人类的生命作赌注。不要低估这项技术的力量。这些系统很快就会拥有超越人类的能力，可以入侵任何东西、一夜之间彻底改变任何领域，并获得真正的权力和资源。”Coxon 称，开发 AI 的团队“真心认为，到 2030 年前后，它可能会杀死我们所有人”。Anthropic 现任员工 Evan Hubinger 对此回应称，他和公司其他人的确担心这种情形。他在 X 平台写道：“我个人认为，未来十年内发生这种情况的概率超过 10%。”