微软首席执行官 Satya Nadella 表示，企业应将强大的人工智能(AI )模型视为潜在的内部威胁，要假定这些模型可能遭入侵，并建立一套“紧急制动”机制，以防止智能体模型失控。
Nadella 表示，部署先进人工智能的企业不应仅仅依赖模型开发商作出的保证。“我们必须假定模型已遭入侵，并从一开始就加以控制，”Nadella 周六在 X 上发帖写道。“可以把这想象成紧急制动装置。获授权人员应始终能够在模型执行任务过程中将其暂停或关闭。”