YYMuse
⚠️ 本工具依据现行法规自动生成参考内容,不构成法律意见。具体合规事项请咨询专业法律顾问。
监管办法 14条 · 2025-09-01 起施行

人工智能生成合成内容标识办法

官方来源 1 ↗
第1条
为了促进人工智能健康发展,规范人工智能生成合成内容标识,保护公民、法人和其他组织合法权益,维护社会公共利益,根据《中华人民共和国网络安全法》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等法律、行政法规和部门规章,制定本办法。
企业需给AI生成内容做清晰标识,让用户能区分,避免混淆;这能保护公众和机构权益,防止虚假信息,维护网络秩序。
第2条
符合《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者(以下简称“服务提供者”)开展人工智能生成合成内容标识活动,适用本办法。
符合《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者开展人工智能生成合成内容标识活动,适用本办法。
第3条
人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。 人工智能生成合成内容标识包括显式标识和隐式标识。 显式标识是指在生成合成内容或者交互场景界面中添加的,以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。 隐式标识是指采取技术措施在生成合成内容文件数据中添加的,不易被用户明显感知到的标识。
人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。人工智能生成合成内容标识包括显式标识和隐式标识。显式标识是指用户可以明显感知到的标识,隐式标识是指采取技术措施在文件数据中添加的不易被用户明显感知到的标识。
第4条
服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的,应当按照下列要求对生成合成内容添加显式标识: 服务提供者提供生成合成内容下载、复制、导出等功能时,应当确保文件中含有满足要求的显式标识。
(1)在文本的起始、末尾或者中间适当位置添加文字提示或者通用符号提示等标识,或者在交互场景界面、文字周边添加显著的提示标识;
(2)在音频的起始、末尾或者中间适当位置添加语音提示或者音频节奏提示等标识,或者在交互场景界面中添加显著的提示标识;
(3)在图片的适当位置添加显著的提示标识;
(4)在视频起始画面和视频播放周边的适当位置添加显著的提示标识,可以在视频末尾和中间适当位置添加显著的提示标识;
(5)呈现虚拟场景时,在起始画面的适当位置添加显著的提示标识,可以在虚拟场景持续服务过程中的适当位置添加显著的提示标识;
(6)其他生成合成服务场景根据自身应用特点添加显著的提示标识。
服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的,应当按照要求在文本、音频、图片、视频、虚拟场景等内容的适当位置添加显著的提示标识。提供生成合成内容下载、复制、导出等功能时,应当确保文件中含有满足要求的显式标识。
第5条
服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定,在生成合成内容的文件元数据中添加隐式标识,隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。 鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。 文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息,用于记录文件来源、属性、用途等信息内容。
企业必须在生成合成内容文件的元数据中添加包含内容属性、服务提供者名称或编码、内容编号等关键信息的标识,鼓励额外添加数字水印等标识。
第6条
提供网络信息内容传播服务的服务提供者应当采取下列措施,规范生成合成内容传播活动: 有前款第一项至第三项情形的,应当在文件元数据中添加生成合成内容属性信息、传播平台名称或者编码、内容编号等传播要素信息。
(1)核验文件元数据中是否含有隐式标识,文件元数据明确标明为生成合成内容的,采取适当方式在发布内容周边添加显著的提示标识,明确提醒公众该内容属于生成合成内容;
(2)文件元数据中未核验到隐式标识,但用户声明为生成合成内容的,采取适当方式在发布内容周边添加显著的提示标识,提醒公众该内容可能为生成合成内容;
(3)文件元数据中未核验到隐式标识,用户也未声明为生成合成内容,但提供网络信息内容传播服务的服务提供者检测到显式标识或者其他生成合成痕迹的,识别为疑似生成合成内容,采取适当方式在发布内容周边添加显著的提示标识,提醒公众该内容疑似生成合成内容;
(4)提供必要的标识功能,并提醒用户主动声明发布内容中是否包含生成合成内容。
企业需在传播生成合成内容时,无论是否有隐式标识或用户声明,只要检测到相关痕迹,都要在内容周边显著提示,并提醒用户主动声明内容是否含生成合成内容。
第7条
互联网应用程序分发平台在应用程序上架或者上线审核时,应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务。互联网应用程序服务提供者提供人工智能生成合成服务的,互联网应用程序分发平台应当核验其生成合成内容标识相关材料。
分发平台应用上架审核时,必须让提供者说明是否提供AI生成合成服务;若提供,平台需核验其内容标识材料,确保合规。
第8条
服务提供者应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容,并提示用户仔细阅读并理解相关的标识管理要求。
企业必须在用户协议里写明AI生成合成内容的标识方法、样式,还要提醒用户仔细看并遵守这些标识管理要求。
第9条
用户申请服务提供者提供没有添加显式标识的生成合成内容的,服务提供者可以在通过用户协议明确用户的标识义务和使用责任后,提供不含显式标识的生成合成内容,并依法留存提供对象信息等相关日志不少于六个月。
用户申请不带标识的AI生成内容时,企业得先通过用户协议讲清楚用户要自己标识、负责使用,才能提供无标识内容,还要依法留存相关日志至少六个月。
第10条
用户使用网络信息内容传播服务发布生成合成内容的,应当主动声明并使用服务提供者提供的标识功能进行标识。 任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识,不得为他人实施上述恶意行为提供工具或者服务,不得通过不正当标识手段损害他人合法权益。
用户发布AI生成合成内容时,必须主动声明并使用平台提供的标识功能标明。禁止删除、篡改、伪造、隐匿标识,或提供相关工具服务,也不能用不正当标识损害他人权益。
第11条
服务提供者开展标识活动的,还应当符合相关法律、行政法规、部门规章和强制性国家标准的要求。
企业给AI生成内容做标识时,必须同时遵守所有现有的法律法规、部门规章和国家强制标准,不能只按自己想法来,确保标识方式合法合规。
第12条
服务提供者在履行算法备案、安全评估等手续时,应当按照本办法提供生成合成内容标识相关材料,并加强标识信息共享,为防范打击相关违法犯罪活动提供支持和帮助。
企业办算法备案、安全评估时,要提交生成合成内容的标识材料,还得和别人共享这些标识信息,帮着防范和打击违法犯罪。
第13条
违反本办法规定的,由网信、电信、公安和广播电视等有关主管部门依据职责,按照有关法律、行政法规、部门规章的规定予以处理。
企业若未按规定标识AI生成内容,网信、电信等部门将依法依规处理。这是对违规行为的追责规定,提醒企业务必遵守标识要求,避免承担法律责任。
第14条
本办法自2025年9月1日起施行。
违反本办法规定的,由网信、电信、公安和广播电视等有关主管部门依据职责,按照有关法律、行政法规、部门规章的规定予以处理。
← 返回法规库