OpenAI加强AI内容检测与标注,双重水印机制正式上线
创始人
2026-05-21 13:22:00
0

OpenAI近日宣布推出一系列更新举措,旨在帮助用户更轻松地识别网络上由其AI模型生成的内容。此次更新不仅进一步强化了对C2PA内容凭证标准的支持,还将引入谷歌的SynthID水印技术,构建AI内容标注的"多层防护体系"。C2PA目前是检验图片、视频及音频内容来源与编辑历史最权威的行业标准。

OpenAI在公告中表示:"这两套系统相辅相成。C2PA帮助内容携带详尽的来源信息,SynthID则在元数据丢失时仍能保留有效信号。水印在截图等格式转换后依然具有较强的持久性,而元数据所能承载的信息量又超出单一水印的范畴。两者结合,使内容溯源能力远超任何单一层次所能实现的效果。"

SynthID水印将首先应用于ChatGPT、Codex及OpenAI API生成的图像。值得关注的是,相比C2PA,SynthID在实际应用中已被事实核查机构和媒体机构更广泛地用于识别网络上的深度伪造图像。此次双重机制的引入,有望减少OpenAI生成内容在身份核验环节中的漏洞,使深度伪造内容更易于识别,同时帮助各大网络平台为用户标注AI生成或经AI处理的内容。

与此同时,OpenAI还预告了一个面向公众的内容验证门户,用户可上传图片,查看其是否携带AI元数据或水印标记。该门户将同时检测C2PA与SynthID来源信号,判断图片是否由ChatGPT、OpenAI API或Codex生成。目前该功能仅限于OpenAI自身生成的图像,但公司表示将在未来数月内扩展对其他验证系统的支持,并逐步覆盖更多类型的网络内容。

对于检测失败的情况,OpenAI也作出了说明:"没有任何检测方法是万无一失的,因此在检测未能得出结论时,我们会采取审慎的处理方式。例如,若未能检测到元数据或水印,该工具不会对图片是否由OpenAI工具生成作出明确判断,因为来源信号在某些情况下可能已被剥离。"

此外,OpenAI还正式加入了C2PA合规计划。该计划旨在确保相关产品符合内容凭证规范,并满足一系列安全要求,以保证C2PA数据的正确生成与验证。不过值得注意的是,OpenAI此前已在图片和视频内容中嵌入C2PA数据,但该机制在实际场景中识别深度伪造内容的效果并不理想——原因在于,一旦内容离开原始发布平台,其元数据便可能被轻易移除,部分平台甚至会在上传过程中意外将其抹除。

Q&A

Q1:SynthID水印和C2PA内容凭证有什么区别?

A:两者各有侧重。C2PA是目前最权威的内容来源标准,能携带详细的生成与编辑信息,但元数据容易在内容传播过程中被剥离。SynthID是谷歌开发的水印技术,在截图等格式转换后仍具较强持久性,更难被去除。OpenAI将两者结合使用,形成互补,提升AI生成内容的溯源可靠性。

Q2:OpenAI的内容验证门户具体怎么用?能识别所有AI图片吗?

A:用户可通过该门户上传图片,系统会自动检测图片是否携带C2PA元数据或SynthID水印,从而判断其是否由ChatGPT、OpenAI API或Codex生成。目前该工具仅支持识别OpenAI自身生成的内容,且每次只能上传一张图片。OpenAI表示后续会扩展对其他验证系统的支持,逐步覆盖更多内容类型。

Q3:C2PA元数据为什么经常失效,识别深度伪造图片效果有限?

A:C2PA元数据嵌入在文件信息中,内容一旦离开原始发布平台,元数据便可能被人为删除,甚至被某些平台在上传过程中意外清除。这导致即便OpenAI已长期在生成内容中嵌入C2PA数据,在实际网络环境中识别深度伪造内容的效果依然有限。SynthID水印的引入正是为了弥补这一缺陷。

相关内容

热门资讯

九寨沟景区将于明日起全域恢复开... 7月29日,九寨沟风景名胜区管理局发布关于全域恢复开放的通告:7月26日,九寨沟景区遭遇局部泥石流,...
行进中国丨闽东老街,藏着百年肌... 本文转自:人民网位于福建省宁德市蕉城区的鹏程历史文化街区。人民网记者 李唯一摄街区内的明清古建筑群。...
AI中国|世界遗产+1!千年景... 今天(25日)由中国申报的“景德镇手工瓷业遗存” 成功列入《世界遗产名录》 成为我国第61项世界遗产...
不输江南独绝西南!800年丽江... 很多人奔赴云南,执念从来不是走马观花的网红打卡,而是想在喧嚣尘世之外,寻一处山水相依、文脉绵长的烟火...
英伟达CEO黄仁勋:“AI末日... 7 月 25 日消息,据《商业内幕》24 日报道,英伟达 CEO 黄仁勋认为,所谓的“AI 末日论者...
2026年AI短视频培训机构怎... 2026年,AI短视频培训已经从"要不要学"变成了"跟谁学"。但同样是学短视频,有人为了找工作,有人...
北京石景山推动AI等五大特色产... 中新网北京7月25日电 (记者 陈杭)北京石景山将持续压实市区企协同项目推进机制,统筹市级政策、区级...
中国AI成功救场后,OpenA... 近日,美国人工智能公司OpenAI的模型在安全测试中失控“越狱”,攻击了全球最大AI开源平台Hugg...
黄仁勋入驻X首条推文:英伟达等... IT之家 7 月 25 日消息,科技媒体 Tom's Hardware 今天(7 月 25 日)发布...