在今年全国两会上，人工智能(AI)技术成为代表委员们热议的焦点之一。不少代表委员呼吁，要提升综合治理水平，推动科技向善，促进AI技术、AI产业健康有序发展。

包括小米集团创始人、董事长兼CEO雷军、美的集团副总裁兼首席财务官钟铮、中国民办教育协会副会长、云南工商学院执行校长李孝轩等委员代表都对“AI换脸拟声”和AI的高仿真性特征等问题提出意见和建议。

近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》(以下简称《标识办法》)，自2025年9月1日起施行。

标识分为显式标识和隐式标识　　

近年来，生成式人工智能、深度合成等新技术快速发展，为生成合成文本、图片、音频、视频等信息提供了便利工具，在促进经济发展、丰富网上内容、便利公众生活的同时，也造成虚假信息传播、破坏网络生态等问题。社会广泛呼吁加快专门立法、强化技术监管、压实平台责任。为积极响应社会关切和群众关心，国家互联网信息办公室联合工业和信息化部、公安部、国家广播电视总局制定了《标识办法》。

《标识办法》以内容标识为抓手，细化前期相关部门规章的标识相关要求，进一步发挥内容标识提醒提示和监督溯源的技术作用，着力构建开放、公正、有效的治理机制，营造公平有序发展环境，推动人工智能产业健康有序发展。

《标识办法》明确，人工智能生成合成内容标识主要包括显式标识和隐式标识两种形式，显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识；隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。　　

不得恶意删除篡改伪造隐匿标识　　

《标识办法》提出，按照《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》相关要求开展人工智能生成合成内容标识活动的，应当符合《标识办法》相关要求。

《标识办法》要求，服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的，应当按照要求对生成合成内容添加显式标识；服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定，在生成合成内容的文件元数据中添加隐式标识；提供网络信息内容传播服务的服务提供者应当采取技术措施，规范生成合成内容传播活动。

《标识办法》强调，任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。

解读

国家网信办就《标识办法》答问

用户声明生成合成情况　并添加显式标识方可发布

问:《标识办法》适用范围是什么?

答:《标识办法》规定，符合《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者开展人工智能生成合成内容标识活动，适用本办法。

同时，《互联网信息服务深度合成管理规定》第二条明确“法律、行政法规另有规定的，依照其规定”，《生成式人工智能服务管理暂行办法》第二条第二款明确“国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定”。《标识办法》同样遵照上述适用条款，开展特定活动对内容标识另有规定的，从其规定。

问:强制性国家标准《网络安全技术人工智能生成合成内容标识方法》的主要内容?

答:标准支撑《标识办法》，对人工智能生成合成内容服务提供者与网络信息传播服务提供者提出了内容标识方法的具体要求。一是明确人工智能生成合成内容服务提供者对文本、图片、音频、视频、虚拟场景等内容，添加文字、角标、语音、节奏等显式标识的方法，在内容生成合成环节提出了显著提示公众、防范混淆误认的方案。二是明确服务提供者在文件中添加元数据隐式标识的方法，为内容传播服务提供者有效识别生成合成内容提供便捷方案，也为内容传播服务提供者履行向公众提醒提示主体责任提供了依据。三是在元数据隐式标识设置了预留字段，可用于记录标识完整性、内容一致性等安全防护信息，为促进标识技术创新发展和保护标识安全性预留了空间。

问:《标识办法》明确了服务提供者哪些具体要求?

答:《标识办法》明确服务提供者应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识，在提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识；应当在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息；应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。

问:《标识办法》明确互联网应用程序分发平台应当采取哪些措施规范人工智能生成合成服务?

答:《标识办法》第七条明确，互联网应用程序分发平台在应用程序上架或者上线审核时，应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务，并核验其生成合成内容标识相关材料。

问:如何合规获得没有添加显式标识的生成合成内容?

答:前期，国家互联网信息办公室出台的《互联网信息服务深度合成管理规定》第十七条针对“可能导致公众混淆或者误认的”深度合成服务情形提出显著标识要求。在此基础上，《标识办法》第四条进一步明确了针对文本、音频、图片、视频、虚拟拟真等具体场景的显式标识要求，确保生成合成内容在面向公众时具有满足要求的显式标识。

此外，充分考虑生成合成内容在实际场景中的落地应用，积极回应社会关切和产业需要，《标识办法》第九条提出，在用户主动要求提供未添加显式标识内容时，网站平台在不违反相关法律法规要求前提下，可通过在用户协议中明确责任义务并依法留存相关日志信息后，面向用户予以提供。同时，用户在后续使用过程中，需遵守《标识办法》第十条等相关要求，主动声明生成合成情况并添加显式标识后，方可面向公众发布和传播。

采写:南方日报记者 叶丹

综合新华社

制图:杨存海(豆包AI)