四部门发布人工智能新规,推动产业健康有序发展
发布时间:2025-03-20 发布来源:中国网信网

近日,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》(以下简称《标识办法》),自2025年9月1日起施行。

近年来,生成式人工智能、深度合成等前沿技术如雨后春笋般蓬勃兴起,为创作合成文本、图像、音频、视频等各类信息提供了便捷工具。然而,随之而来的是虚假信息泛滥、网络生态遭受破坏等一系列棘手问题。为了应对这些严峻挑战,《标识办法》应运而生。《标识办法》聚焦人工智能“生成合成内容标识”关键点,通过标识提醒用户辨别虚假信息,明确相关服务主体的标识责任义务,规范内容制作、传播各环节标识行为,以合理成本提高安全性,促进人工智能在文本对话、内容制作、辅助设计等各应用场景加快落地,同时减轻人工智能生成合成技术滥用危害,防范利用人工智能技术制作传播虚假信息等风险行为,推动人工智能健康有序发展。

《标识办法》提出

服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定,在生成合成内容的文件元数据中添加隐式标识,隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。

《标识办法》要求

互联网应用程序分发平台在应用程序上架或者上线审核时,应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务。互联网应用程序服务提供者提供人工智能生成合成服务的,互联网应用程序分发平台应当核验其生成合成内容标识相关材料。

行业人士纷纷表示《标识办法》要求对生成合成内容添加明确标识和隐性标识,这对企业的合规提出了新的要求。从长远来看,这一举措有助于企业塑造良好的品牌形象和信誉度。同时,通过明确的标识规定,可以引导企业更加合规地使用人工智能技术,这将避免技术滥用带来的风险隐患,防止企业因追求短期利益而损害市场的长远发展。



 


(声明:本号所发内容仅作为信息传递之目的,版权归创作者所有,如有不妥请及时联系删除,谢谢。)