专家解读｜从标识到鉴伪：AI生成合成内容治理的技术防线与社会共治

　　近期随着人工智能应用技术里程碑式的突破，生成式人工智能应用呈现爆炸式增长，同时也出现了各类AI技术滥用现象频发。两会期间多名代表、委员提交议案和提案呼吁，要对AI生成内容进行规范和治理，人工智能安全治理已从危害探讨进入到实际执法的深水区。

　　《标识办法》从内容标识的关键环节入手，以主动防御、行业自主的方式构建全流程的规范要求，有效应对炮制虚假信息等误用、滥用生成合成技术的行为。

　　《标识办法》提出了明确的标识管理要求，标识数据可为鉴伪模型提供丰富多样、来源广泛的高质量训练样本，从而推动鉴伪技术与时俱进地迭代升级，及时适应人工智能技术的高速发展进步。

　　面对人工智能生成合成技术不当应用导致的内容安全风险，《标识办法》构筑了全面深入的管理阵地。同时还应该配套打造与时俱进的鉴伪技术防线，融合运用管理手段和技术应对，协同推进行业自律和全民监督的社会治理体系。

　　一是构建基座化鉴伪底座模型，提升泛化适用性能。大模型生成技术迭代更新很快，平均两个月就会出现新的里程碑模型，提升针对新生伪造方法的泛化能力至关重要，需要摒弃“来一个打一枪”的事后思维，构建AI鉴伪底座模型，加强鉴伪模型的泛化适用性能，以大模型对抗大模型。二是研究精准化对抗鉴伪技术，防范恶意逃避风险。针对金融诈骗、虚假信息等强对抗、高风险犯罪，造假者会通过内容压缩、隐蔽投毒等各种手段逃避标识义务和伪造检测，这就需要在施加对抗意图和手段的条件下保证高精度专项检测能力，针对性地提升检测效果。三是降低对无害生成内容传播的影响，兼顾生成内容应用的发展与治理。从技术层面来说，正向应用和违法犯罪应用依赖的算法、模型本质上没有区别，因此需要从大量无害生成内容中精准识别有害伪造内容，保障无害内容正常传播的权利。四是打造全民化伪造检测工具，推动人人可用鉴伪。全民监督的社会共治，要加大科普力度，提高民众对生成式人工智能的认识，同时向民众提供易用的鉴伪服务，为普通用户在身份验证、信息鉴定等日常生活场景中及时发现伪造内容提供便利，形成全民共治管理效能，全面保障公民隐私和财产安全。