AI“李鬼”迭出，代表委员建言人工智能治理

在履职过程中，全国人大代表、美的集团副总裁兼首席财务官钟铮注意到一种现象：网络上有大量AI(人工智能)生成的视频内容，有的模仿明星或专家的形象和声音，有的虚构人设、推销产品，误导消费者购买不必要的商品，造成财产损失，甚至产生信任危机。

不光是视频，伴随人工智能技术快速进步，文、视、图、声等的合成和制作门槛大幅降低，一些人工智能生成的内容“李逵”“李鬼”难辨，给用户带来困扰。2025年全国两会期间，多位代表委员对此现象予以关注，并提出建议。

钟铮认为，现在生成式人工智能在法律法规体系上仍不完善，特别是在界定AI生成内容的版权归属，以及侵权责任认定、隐私保护标准方面存在空白。此外，目前对于生成式人工智能视频的审核，技术条件有限，还需要继续完善技术手段。

全国人大代表，TCL创始人、董事长李东生也关注到了“AI深度伪造欺诈治理”的话题，“生成式人工智能技术迅速发展，这个问题的‘B面’——深度伪造技术也在快速发展，并可能带来新的社会问题。”

李东生表示，近年来，中国相关立法虽关注“AI深度伪造欺诈”这一议题，但已出台的规章制度尚不成体系，还不具备可操作的细则和明确的处罚标准。

全国人大代表、小米集团创始人雷军也注意到了“AI换脸拟声”带来的问题。他表示，不当使用、滥用易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为。

全国政协委员、安徽省律师协会监事长周世虹在接受中新社记者采访时介绍，中国于2023年8月起施行《生成式人工智能服务管理暂行办法》(以下简称《暂行办法》)，从而形成以《暂行办法》为核心，辅以数据安全法、个人信息保护法等单行法的人工智能规范，但缺乏高位阶的专门立法，覆盖范围有限，难以应对技术发展可能引发的各种社会问题。

周世虹建议将生成式人工智能纳入专项立法，明确开发者、运营者、用户三方责任；完善监管协同机制，建立网信、工信、公安等多部门联动的动态监管体系；设立AI生成内容标识制度，强制标识AI生成内容，防范虚假信息传播。

关于生成式人工智能视频传播管理机制，钟铮建议，修订著作权法等相关法律法规，加强原创版权和隐私保护；利用AI技术审核AI合成的视频内容，同时投入更多资源开发高效的AI审核工具，并结合人工审核，通过双重校验提高识别准确率等。

全国人大代表、科大讯飞董事长刘庆峰表示，生成式人工智能存在幻觉，特别是深度推理模型的逻辑自洽性提升，使得AI生成内容真假难辨。他建议，研究幻觉自动分析的技术和软件平台，开展幻觉自动分析、AIGC(生成式人工智能)深度鉴伪、有害内容识别以及互联网传播溯源，由相关部门定期清理幻觉数据，为公众提供AIGC幻觉信息检测工具与服务。(完)