英国机构呼吁加强前沿 AI 安全管理
英国人工智能安全研究所 12 日发表文章说，随着前沿人工智能（AI）能力快速提升，安全风险正前移至模型开发阶段，而现有安全评估方法难以跟上技术发展，有必要探索新的技术安全实践，以确保前沿 AI 开发活动安全进行。文章指出，此前 AI 模型安全评估主要着眼于确保公开发布时的安全性，但如今部分 AI 系统自主能力增强，尤其在网络安全领域，即使模型尚未公开发布，也可能在训练、内部部署和评估过程中带来风险。人工智能安全研究所提出八项技术安全实践重点，包括开发全过程风险评估与记录、AI 系统全生命周期监督、维护和评估监督机制、AI 智能体安全事件响应和报告、共享有关 AI 发展速度的信息、独立审查与评估、安全相关领域能力评估以及对 AI 对齐方面情况的评估。文章说，该机构已与 AI 行业合作，在超过 55 个 AI 模型公开发布前对其进行了独立评估，制定了安全保障评估原则，帮助建设风险评估和安全框架。随着这些实践逐步成熟，需要通过相关国际标准制定机构将其转化为正式技术标准。（新华社）
英国人工智能安全研究所 12 日发表文章说，随着前沿人工智能（AI）能力快速提升，安全风险正前移至模型开发阶段，而现有安全评估方法难以跟上技术发展，有必要探索新的技术安全实践，以确保前沿 AI 开发活动安全进行。文章指出，此前 AI 模型安全评估主要着眼于确保公开发布时的安全性，但如今部分 AI 系统自主能力增强，尤其在网络安全领域，即使模型尚未公开发布，也可能在训练、内部部署和评估过程中带来风险。人工智能安全研究所提出八项技术安全实践重点，包括开发全过程风险评估与记录、AI 系统全生命周期监督、维护和评估监督机制、AI 智能体安全事件响应和报告、共享有关 AI 发展速度的信息、独立审查与评估、安全相关领域能力评估以及对 AI 对齐方面情况的评估。文章说，该机构已与 AI 行业合作，在超过 55 个 AI 模型公开发布前对其进行了独立评估，制定了安全保障评估原则，帮助建设风险评估和安全框架。随着这些实践逐步成熟，需要通过相关国际标准制定机构将其转化为正式技术标准。（新华社）
