2025-03-18 16:16 阅读量:1.8万+
华人号:华声中国随着大模型等生成式人工智能技术的快速发展,生成内容质量显著提升、生成速度明显加快、适用场景大幅扩展,人工智能产业走深向实,逐步进入了规模化应用阶段。生成合成技术开始呈现工具化和普及化趋势,普通人都可以轻松地接触到各种生成合成工具。与此同时,各种安全问题也随之显现,譬如用AI生成虚假信息、AI换脸明星直播带货、AI实时换脸诈骗等违规甚至违法的事件频发。
近期随着人工智能应用技术里程碑式的突破,生成式人工智能应用呈现爆炸式增长,同时也出现了各类AI技术滥用现象频发。两会期间多名代表、委员提交议案和提案呼吁,要对AI生成内容进行规范和治理,人工智能安全治理已从危害探讨进入到实际执法的深水区。
《标识办法》从内容标识的关键环节入手,以主动防御、行业自主的方式构建全流程的规范要求,有效应对炮制虚假信息等误用、滥用生成合成技术的行为。
《标识办法》提出了明确的标识管理要求,标识数据可为鉴伪模型提供丰富多样、来源广泛的高质量训练样本,从而推动鉴伪技术与时俱进地迭代升级,及时适应人工智能技术的高速发展进步。
面对人工智能生成合成技术不当应用导致的内容安全风险,《标识办法》构筑了全面深入的管理阵地。同时还应该配套打造与时俱进的鉴伪技术防线,融合运用管理手段和技术应对,协同推进行业自律和全民监督的社会治理体系。
一是构建基座化鉴伪底座模型,提升泛化适用性能。大模型生成技术迭代更新很快,平均两个月就会出现新的里程碑模型,提升针对新生伪造方法的泛化能力至关重要,需要摒弃“来一个打一枪”的事后思维,构建AI鉴伪底座模型,加强鉴伪模型的泛化适用性能,以大模型对抗大模型。二是研究精准化对抗鉴伪技术,防范恶意逃避风险。针对金融诈骗、虚假信息等强对抗、高风险犯罪,造假者会通过内容压缩、隐蔽投毒等各种手段逃避标识义务和伪造检测,这就需要在施加对抗意图和手段的条件下保证高精度专项检测能力,针对性地提升检测效果。三是降低对无害生成内容传播的影响,兼顾生成内容应用的发展与治理。从技术层面来说,正向应用和违法犯罪应用依赖的算法、模型本质上没有区别,因此需要从大量无害生成内容中精准识别有害伪造内容,保障无害内容正常传播的权利。四是打造全民化伪造检测工具,推动人人可用鉴伪。全民监督的社会共治,要加大科普力度,提高民众对生成式人工智能的认识,同时向民众提供易用的鉴伪服务,为普通用户在身份验证、信息鉴定等日常生活场景中及时发现伪造内容提供便利,形成全民共治管理效能,全面保障公民隐私和财产安全。
1、本站(网址:52hrtt.com)为用户提供信息存储空间等服务,用户保证对发布的内容享有著作权或已取得合法授权,不会侵犯任何第三方的合法权益。
2、刊载的文章由平台用户所有权归属原作者,不代表同意原文章作者的观点和立场。
3、因平台信息海量,无法杜绝所有侵权行为,如有侵权烦请联系我们(福建可比信息科技有限公司 邮箱:hrtt@52hrtt.com),以便及时删除。
© 2022 华人头条
服务热线 : 0591-83771172
福建可比信息科技有限公司 ©版权所有
直播备案号 闽ILS备201708250005
举报热线:0591-83771172
举报邮箱:hrtt@52hrtt.com
1、本站(网址:52hrtt.com)为用户提供信息存储空间等服务,用户保证对发布的内容享有著作权或已取得合法授权,不会侵犯任何第三方的合法权益。
2、刊载的文章由平台用户所有权归属原作者,不代表同意原文章作者的观点和立场。
3、因平台信息海量,无法杜绝所有侵权行为,如有侵权烦请联系我们(福建可比信息科技有限公司 邮箱:hrtt@52hrtt.com),以便及时删除。