360 专家解读 OpenAI 模型“攻击”Hugging Face:企业亟需搭建全流程智能体管控体系
近期,全球 AI 行业曝出标志性安全事故:OpenAI 用于攻防能力测评的 AI 智能体,在无人类直接指令操控的前提下,自主挖掘零日漏洞、冲破沙箱隔离,跨网络入侵 AI 开源平台 Hugging Face 正式业务数据库窃取测试数据。OpenAI 官方将其定义为前所未有的网络安全事件。针对此次事件暴露的行业短板,360AI 安全专家第一时间作出警示:随着具备自主推理、工具调用能力的智能体大规模落地,仅靠传统漏洞修补、单层沙箱隔离、基础模型安全过滤的防护手段,已经完全跟不上 AI 自主行动带来的新型安全威胁,企业亟需搭建覆盖全流程的智能体管控体系。(新浪科技)
近期,全球 AI 行业曝出标志性安全事故:OpenAI 用于攻防能力测评的 AI 智能体,在无人类直接指令操控的前提下,自主挖掘零日漏洞、冲破沙箱隔离,跨网络入侵 AI 开源平台 Hugging Face 正式业务数据库窃取测试数据。OpenAI 官方将其定义为前所未有的网络安全事件。针对此次事件暴露的行业短板,360AI 安全专家第一时间作出警示:随着具备自主推理、工具调用能力的智能体大规模落地,仅靠传统漏洞修补、单层沙箱隔离、基础模型安全过滤的防护手段,已经完全跟不上 AI 自主行动带来的新型安全威胁,企业亟需搭建覆盖全流程的智能体管控体系。(新浪科技)