一、人工智能(AI)安全、风险与监管。
1、测试环境突破与误解:针对 OpenAI、Meta 和 Anthropic 等模型在测试中突破沙箱限制并实施网络攻击的事件,AI 安全初创公司 Irregular 首席执行官 Dan Lahav 表示,这源于“误解”与“时间紧迫下的错误”,目前已被修复。
2、存在主义风险与黑客攻击:Dan Lahav 对 AI 消灭人类的概率持乐观态度(认为本年内概率接近于零),但英国 AI 大臣 Kanishka Narayan 强调,英国公共与私营部门遭遇 AI 网络攻击的概率“极高”,更令人担忧的是现实中的网络安全与生化风险。
3、开源模型风险:Cohere 首席 AI 官 Joelle Pineau 指出,由于“语音欺诈风险过高”,公司决定不开源语音复制模型,并指出许多银行尚不具备抵御复杂 AI 黑客攻击的网络防御能力。
4、英国与欧盟的监管立场:英国 AI 大臣表示,英国不会采取“监管优先”的做法(间接批评欧盟),而是致力于建立基础设施并充当安全监控的“诚实经纪人”,同时计划到 2030 年将英国算力提高三倍。
 
 
Back to Top