AIPress.com.cn报道
12月10日消息,Google宣布为Chrome浏览器AI代理系统构建全新安全防护框架,并同步推出漏洞赏金计划。任何人若能成功攻破Chrome AI防线,可获得最高2万美元奖励。
随着Chrome AI工具具备浏览网页、执行购买、操作账户等能力,安全风险随之被放到聚光灯下,特别是网页暗藏指令诱导AI错误操作的“间接提示注入”攻击,可能导致AI进行未授权交易或泄露敏感账号,这也是当前AI安全最具争议的话题之一。
谷歌此次为Chrome AI建立了多层防御体系,最核心的机制是让AI监督AI。
Chrome的主AI在执行任务前会经过另一个独立的Gemini模型审核,后者只看到行为元信息,不接触网页实内容,专门判定动作是否符合用户真实意图,一旦判断可疑可直接否决并要求重新规划行动,相当于为AI安排了一个永不走神的“数字安全裁判”。
此外,浏览器对数据访问和敏感操作设置权限壁垒,金融支付、访问银行账户、调用密码、发送消息等关键动作必须获得用户明确确认;AI本身无法直接读取密码数据,只能通过Chrome密码管理器代为执行,降低被诱导的风险。
后台层面,谷歌部署实时红队测试系统持续生成攻击样本反复撞击AI代理,同时引入提示注入识别器,在检测到可能影响AI决策的诱导内容时会立即阻断操作。
谷歌认为,此举不仅是为Chrome构建防线,更是为AI浏览器未来生态设立安全标准。
在行业普遍担忧AI具备自主执行能力、且提示注入漏洞难以彻底解决的背景下,谷歌主动悬赏漏洞意味着正在尝试以公开透明的方式证明其代理安全性。业内人士分析,谁率先解决AI浏览安全难题,谁将掌握下一代Web入口竞争优势,而Chrome未来将与Perplexity Comet、ChatGPT Atlas等AI浏览器直接对阵,安全能力可能成为决定胜负的关键指标。(AI普瑞斯编译)