华人号

登录更多 下载App

专家解读|人工智能生成合成内容标识的法治化规范路径

2025-03-18 16:16 阅读量:1.9万+

华人号:华声中国

  人工智能技术迅猛发展,为各个产业领域的应用都带来重要的技术迭代和变革。当前内容生成成为人工智能的主要应用形式之一。人工智能生成、合成内容已囊括文本、图片、视频、虚拟场景等多种形式。毋庸置疑,人工智能生成内容技术的发展,降低了内容生成门槛,改变了传统内容生产方式,为互联网内容生态带来了全新的变革和机遇,同时也伴随着风险、挑战和治理难题。亟需构建具有针对性的治理机制,推动内容标识的规范使用,并将其作为重要举措纳入法治化框架。《人工智能生成合成内容标识办法》和《网络安全技术 人工智能生成合成内容标识方法》强制性国家标准从实体规则和配套技术标准层面,对内容标识规定的细化落地和统一适用提供了重要的制度方案。
  一、人工智能生成合成内容的治理难题及其法治应对

  通过人工智能生成合成技术降低了内容“伪造”“造假”等的时间成本,尤其在图片、音频、视频等领域,从早期引起广泛关注的“换脸”工具,到伪造人声、通话视频的诈骗活动,再到“被压在废墟下的小男孩”等热点事件,人工智能技术带来的深度伪造、虚假信息、不良信息、抄袭侵权等问题,集中涌现出来,对包括内容治理在内的网络空间秩序构成挑战,对于治理工具、方式和手段也提出了更新更高的要求。

  为应对人脸替换、语音合成、场景造假等深度伪造技术带来的挑战,我国已经通过出台《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等规定对此进行回应,规定了服务提供者、技术支持者的相关义务,包括避免用户混淆或误认,杜绝违法信息和虚假信息传播,对使用其服务生成或者编辑的信息内容,应当采取技术措施添加不影响用户使用的标识,并依照相关规定保存日志信息等。

  我国针对人工智能生成合成内容标识这一信息工具的法治化规范举措,具有两方面的特点。一是将内容治理义务不再局限于内容的生产者和传播者,而是拓展到为生产者和传播者提供技术支持的主体,要求真正对技术拥有掌控能力的相关主体切实承担起治理义务,从源头采取措施;二是在现有内容治理手段基础上,明确规定了通过添加技术“标识”的方式,帮助用户有效识别人工智能生成内容,并通过根据风险程度分级分类在内容治理中加以落实。
  二、从法治层面进一步细化内容标识规定的必要性

  通过技术标识例如添加水印等方式,来对人工智能生成合成内容以显式标识进行提示,方便用户快速分辨,并通过隐式标识提供识别和追溯功能,这种模式通过技术赋能,可以在对内容传播干预较小的前提下实现较为有效的治理效果,实际上也是国际上一定程度上形成共识的做法。例如,欧盟《人工智能法》第四章专门规定了“特定人工智能系统的提供者和部署者的透明度义务”,要求“生成或操纵构成深度伪造的图像、音频或视频内容的人工智能系统的部署者应当披露该内容是人为生成或操纵的”,并要求“最迟应在首次互动或接触时以清晰可辨的方式提供给相关自然人”。美国加州于2024年通过的《人工智能透明度法案》规定了人工智能系统提供者针对人工智能生成内容提供检测工具、显性标识功能以及设置隐式标识的义务。

  尽管我国已经明确提出为人工智能生成合成内容添加标识的要求,由于内容生成合成产业链中涉及的相关主体分散,产业链条较为复杂,包括人工智能生成合成内容的工具开发者、工具部署者、工具使用者、内容加工者、内容传播者、内容传播平台以及广大用户等,都涉及到对标识的使用和内容的识别、传播等行为。目前各方主体的标识落实责任分工和层次尚需进一步明确,标识的标准化和互认程度也有待进一步提升,内容标识落地的过程尚需更加细致、全面、系统的规范,需要行业各主体共同努力,形成合力,也需要全面推进相应的标准化技术和工具的开发和应用。
  三、促进内容标识义务全面落地的法治化路径

  《人工智能生成合成内容标识办法》为相关主体如何开展内容标识工作做出了制度回应。一方面,为了实现有效便捷提示,同时尽量减小对内容呈现和传播效果的干扰,需要进一步明确文本、音频、图片、视频、虚拟场景等应用场景下,人工智能生成合成内容显式标识的呈现方式。另一方面,为了实现生成合成信息的有效传递,需要进一步规范文件元数据隐式标识的添加、识别、更新方法。此外,服务提供者、内容提供者、内容传播平台、应用服务分发平台以及用户等各方主体,需要厘清和明确各方在人工智能生成合成内容标识方面的义务和责任体系,引导合规和治理体系的形成和完善。配套发布的《网络安全技术 人工智能生成合成内容标识方法》强制性国家标准,针对人工智能生成合成标识的技术实现方式给出了更加细致、精准的指引,并配以具体的实现范例,有助于相关行业各主体采取相应的技术措施、全面准确落实内容标识义务,并实现标识技术的标准化,提高互认程度,降低由于标准不统一带来的合规成本。

  《人工智能生成合成内容标识办法》及其配套技术标准的出台,有望在法治化的基础上进一步规范我国人工智能生成合成内容标识应用实践,厘清不同主体的责任边界,建立标准化的标识互认机制,有效降低公众辨识人工智能生成合成内容的成本,减少生成合成内容带来的误导乃至欺诈风险,通过提升人工智能应用的透明度来增强公众的认知能力和信任程度,在透明、可信、安全的内容生态建设基础上,促进信息的有效流动,推动代表新质生产力的人工智能产业快速健康发展。通过各方主体形成合力,共同培养培育生成、传播内容的媒介素养和行为伦理,方能标本兼治,推动形成更加健康有序、风清气朗的网络内容生态空间。

以上就是小编为您分享《专家解读|人工智能生成合成内容标识的法治化规范路径》的全部内容,更多有关全球华人最新消息、新闻,请多多关注华人头条中国频道。您还可以下载我们的手机APP,每天个性化推荐你想要看的华人资讯!
免责申明

1、本站(网址:52hrtt.com)为用户提供信息存储空间等服务,用户保证对发布的内容享有著作权或已取得合法授权,不会侵犯任何第三方的合法权益。

2、刊载的文章由平台用户所有权归属原作者,不代表同意原文章作者的观点和立场。

3、因平台信息海量,无法杜绝所有侵权行为,如有侵权烦请联系我们(福建可比信息科技有限公司 邮箱:hrtt@52hrtt.com),以便及时删除。

举报收藏
评论 (0条)
您需要登录后才能评论,点击此处进行登录。
登录后评论

下载华人头条

关于我们

© 2022 华人头条

服务热线 : 0591-83771172

福建可比信息科技有限公司 ©版权所有

ICP许可证号 闽ICP备10203582号

闽公网安备35010202000536号

直播备案号 闽ILS备201708250005

举报热线:0591-83771172

举报邮箱:hrtt@52hrtt.com

免责声明

1、本站(网址:52hrtt.com)为用户提供信息存储空间等服务,用户保证对发布的内容享有著作权或已取得合法授权,不会侵犯任何第三方的合法权益。
2、刊载的文章由平台用户所有权归属原作者,不代表同意原文章作者的观点和立场。
3、因平台信息海量,无法杜绝所有侵权行为,如有侵权烦请联系我们(福建可比信息科技有限公司 邮箱:hrtt@52hrtt.com),以便及时删除。