【财眼观两会】齐向东委员：开源大模型要重点防范代码缺陷等问题

　　“今年两会，人工智能安全是我关注的主要问题之一。”近日，全国政协委员、奇安信集团董事长齐向东在接受中新经纬等媒体采访时说。

　　在齐向东看来，当前，以大模型为代表的人工智能技术正在深刻重塑生产生活方式和科技创新模式。今年春节，国产大模型DeepSeek横空出世，引发了广泛讨论，它颠覆了传统的人工智能创新模式，将推动人工智能技术加速向千行百业渗透。但它一问世，针对性的高强度网络攻击就爆发了，给人工智能行业敲响了坚守安全底线的警钟。

　　齐向东表示：“我们发现，现在越来越多的企业、个人开始搭建DeepSeek大模型私有化部署，而将近90%的服务器都没有采取安全措施，服务运行和数据安全岌岌可危。未来随着人工智能大模型的基础设施地位越来越突出，针对性的恶意手段和风险场景也将激增，伴生的数据隐私、认知安全、基础设施等安全风险超乎想象。对于整个人工智能行业来说，平衡技术创新与安全风险必会成为重要课题。”

　　齐向东认为，人工智能发展面临的安全问题大致可以分三类：

　　第一类是人工智能大模型自身的安全问题。开发风险、数据风险、应用风险和基础环境风险这四大安全风险比较突出。开发方面，开源大模型要重点防范代码缺陷和预留后门等问题；应用方面，要防止“内鬼”对训练数据投毒，进行模型篡改、配置篡改；数据方面，要小心内部配置错误和弱口令等造成的数据库暴露；基础环境方面，要重点关注云、API、传统设备漏洞等等。

　　第二类是利用人工智能开展网络攻击的问题。人工智能促使网络攻击手段更新迭代，“饱和式”攻击成为可能，攻击者可以瞬时发动海量攻击打垮已有的网络安全体系。人工智能还提升了“以假乱真”的能力，深度伪造、认知战、钓鱼等威胁加剧。攻击者可利用人工智能“换脸变声”输出虚假信息，开展网络诈骗。

　　第三类是通过攻击人工智能引发的“网络攻击大爆炸”。未来人工智能会成为社会的基础设施，当大模型嵌入智慧城市、工控系统、智慧政务等关键领域时，会放大漏洞等传统安全威胁，一旦人工智能大模型遭到攻击可能会牵一发而动全身，引发社会服务中断、生产停滞、隐私数据泄露等安全事件。

　　“目前，已有团队发现DeepSeek存在严重漏洞，并可借此获取后端隐私数据、API密钥、操作元数据，尽管漏洞很快被修补，但是根据我们的经验，新漏洞会不断被挖掘出来。”齐向东说。

　　针对人工智能发展面临的安全问题，齐向东认为要从技术保障、制度保障、成果应用三方面入手，系统提升安全能力。第一，建立适配大模型的纵深防御体系，筑牢人工智能的安全根基。第二，制定大模型安全强制合规要求，夯实人工智能安全发展的制度保障。第三，推广“AI+安全”创新成果落地，走好提升安全能力的必经之路。

　　据齐向东透露，近期，奇安信发布了业界首个大模型安全整体解决方案大模型安全盾，率先提出“大模型安全红域”概念，打造适用于人工智能的立体纵深防御体系，并给予威胁情报、大数据监测等情报赋能，实现“对外防攻击、对内防内鬼”。

　　“作为网络和数据安全领域的领军企业，奇安信深感责任重大，期待通过切实可行的举措，为人工智能的安全发展保驾护航。”齐向东说。