谷歌首席科学家警告：企业、政府等不强化 AI 系统安全防护，或将演变成重大安全事件
在一场人工智能峰会上，DeepMind 董事长兼谷歌首席科学家德米斯·哈萨比斯（Demis Hassabis）警告称，如果企业、政府等方面不强化 AI 系统安全防护，明年或未来几年有可能演变成重大安全事件。哈萨比斯认为，过去一年 AI 行业进入了智能体时代。AI 能够自主行动，意味着它有机会完成更多真实世界中的任务，实用价值也随之提升。但另一方面，系统的潜在风险上升，今年的 AI 攻击事件就是信号，只是目前 AI 能力还不算强大，所以事故暂未造成重大后果。在峰会上，哈萨比斯呼吁，AI 行业应借鉴生物学和核技术等高风险领域的成熟经验，建立更严格的安全保障机制，在这方面“还有大量工作要做”。他强调国际合作的重要性，并提出未来有必要建立国际标准机构，为 AI 系统制定安全规范。