专家解读｜人工智能生成合成内容标识的法治化规范路径

　　通过人工智能生成合成技术降低了内容“伪造”“造假”等的时间成本，尤其在图片、音频、视频等领域，从早期引起广泛关注的“换脸”工具，到伪造人声、通话视频的诈骗活动，再到“被压在废墟下的小男孩”等热点事件，人工智能技术带来的深度伪造、虚假信息、不良信息、抄袭侵权等问题，集中涌现出来，对包括内容治理在内的网络空间秩序构成挑战，对于治理工具、方式和手段也提出了更新更高的要求。

　　为应对人脸替换、语音合成、场景造假等深度伪造技术带来的挑战，我国已经通过出台《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等规定对此进行回应，规定了服务提供者、技术支持者的相关义务，包括避免用户混淆或误认，杜绝违法信息和虚假信息传播，对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依照相关规定保存日志信息等。

　　通过技术标识例如添加水印等方式，来对人工智能生成合成内容以显式标识进行提示，方便用户快速分辨，并通过隐式标识提供识别和追溯功能，这种模式通过技术赋能，可以在对内容传播干预较小的前提下实现较为有效的治理效果，实际上也是国际上一定程度上形成共识的做法。例如，欧盟《人工智能法》第四章专门规定了“特定人工智能系统的提供者和部署者的透明度义务”，要求“生成或操纵构成深度伪造的图像、音频或视频内容的人工智能系统的部署者应当披露该内容是人为生成或操纵的”，并要求“最迟应在首次互动或接触时以清晰可辨的方式提供给相关自然人”。美国加州于2024年通过的《人工智能透明度法案》规定了人工智能系统提供者针对人工智能生成内容提供检测工具、显性标识功能以及设置隐式标识的义务。

　　《人工智能生成合成内容标识办法》为相关主体如何开展内容标识工作做出了制度回应。一方面，为了实现有效便捷提示，同时尽量减小对内容呈现和传播效果的干扰，需要进一步明确文本、音频、图片、视频、虚拟场景等应用场景下，人工智能生成合成内容显式标识的呈现方式。另一方面，为了实现生成合成信息的有效传递，需要进一步规范文件元数据隐式标识的添加、识别、更新方法。此外，服务提供者、内容提供者、内容传播平台、应用服务分发平台以及用户等各方主体，需要厘清和明确各方在人工智能生成合成内容标识方面的义务和责任体系，引导合规和治理体系的形成和完善。配套发布的《网络安全技术 人工智能生成合成内容标识方法》强制性国家标准，针对人工智能生成合成标识的技术实现方式给出了更加细致、精准的指引，并配以具体的实现范例，有助于相关行业各主体采取相应的技术措施、全面准确落实内容标识义务，并实现标识技术的标准化，提高互认程度，降低由于标准不统一带来的合规成本。

　　《人工智能生成合成内容标识办法》及其配套技术标准的出台，有望在法治化的基础上进一步规范我国人工智能生成合成内容标识应用实践，厘清不同主体的责任边界，建立标准化的标识互认机制，有效降低公众辨识人工智能生成合成内容的成本，减少生成合成内容带来的误导乃至欺诈风险，通过提升人工智能应用的透明度来增强公众的认知能力和信任程度，在透明、可信、安全的内容生态建设基础上，促进信息的有效流动，推动代表新质生产力的人工智能产业快速健康发展。通过各方主体形成合力，共同培养培育生成、传播内容的媒介素养和行为伦理，方能标本兼治，推动形成更加健康有序、风清气朗的网络内容生态空间。