逾百名专家呼吁对 AI 企业加强独立监管
当地时间 9 月 18 日，美国谷歌公司首次承认，其人工智能模型在今年 5 月的网络安全能力测试中，突破隔离环境侵入了三家真实公司的系统。这一事件再度引发外界对美国 AI 模型安全和监管的担忧。当天，超过 100 名来自世界各地的人工智能专家签署联名公开信，呼吁对全球顶尖的 AI 企业加强独立监管。这封公开信由“人工智能评估者论坛”组织，签署人包括被誉为“AI 教父”之一的杰弗里·辛顿，以及来自全球多所知名大学和非营利 AI 评估机构等组织的成员。公开信提出，所有前沿 AI 企业都应当引入评估人员，独立评估 AI 风险。评估人员将审查 AI 系统和任何造成现实损害的事故，同时审查企业训练、部署和监管 AI 模型的方式，以及安全防护机制的运行情况。公开信呼吁基础模型提供商确保第三方 AI 评估人员拥有开展有效、可信评估所必需的“科学客观性、透明度、独立性和有力保护”。（央视）
当地时间 9 月 18 日，美国谷歌公司首次承认，其人工智能模型在今年 5 月的网络安全能力测试中，突破隔离环境侵入了三家真实公司的系统。这一事件再度引发外界对美国 AI 模型安全和监管的担忧。当天，超过 100 名来自世界各地的人工智能专家签署联名公开信，呼吁对全球顶尖的 AI 企业加强独立监管。这封公开信由“人工智能评估者论坛”组织，签署人包括被誉为“AI 教父”之一的杰弗里·辛顿，以及来自全球多所知名大学和非营利 AI 评估机构等组织的成员。公开信提出，所有前沿 AI 企业都应当引入评估人员，独立评估 AI 风险。评估人员将审查 AI 系统和任何造成现实损害的事故，同时审查企业训练、部署和监管 AI 模型的方式，以及安全防护机制的运行情况。公开信呼吁基础模型提供商确保第三方 AI 评估人员拥有开展有效、可信评估所必需的“科学客观性、透明度、独立性和有力保护”。（央视）
