共计 1193 个字符，预计需要花费 3 分钟才能阅读完成。
【
云南网讯（记者 贺凯）在9月16日举行的第22届中国网络安全年会暨国家网络安全宣传周网络安全协同防御分论坛上，我国首次正式发布了针对AI大模型的实网众测检验结果。此次活动由中央网信办网络安全协调局指导，国家计算机网络应急技术处理协调中心主办，吸引了559位“白帽子”参与，全面检验了国内15款大模型及其应用产品的漏洞。
本次测试涉及10家AI厂商的15款产品，包括基础大模型、垂域大模型以及智能体和模型开发平台等相关应用，涵盖了单模态和多模态大模型，具有广泛的代表性。在参与测试的主流大模型中，腾讯的混元大模型、百度的文心一言、阿里巴巴的通义APP、智谱华章的智谱清言等产品显示出较少的漏洞风险，展现了较高的安全防护能力。
此次活动涌现了梁宏宇、马宝新、刘铭等众多优秀“白帽子”人才。所测试的AI大模型及应用产品均为实时在线的，在产品厂商的安全体系下，“白帽子”们成功发现了高危甚至严重等级的漏洞，展现了他们的专业素养和辛勤努力。参与测试的“白帽子”来自网络安全企业、科研机构及社会各界，他们以外部攻击者的视角，对大模型进行了多维度的实战化测试，取得了丰硕的成果，体现了白帽子群体对新兴技术领域安全的关注，以及为产业发展贡献力量的热情。
根据统计，本次活动共发现各类安全漏洞281个，其中大模型特有漏洞占177个，比例超过60%。这一数据表明，当前AI大模型产品面临着大量来自传统安全领域以外的新兴安全风险。具体来看，主要漏洞风险包括：部分产品存在严重的不当输出类漏洞；信息泄露类漏洞频繁出现，隐患相对较大；提示注入类漏洞普遍，被视为大模型中最常见的风险；某些大模型产品在防御无限制消耗类攻击方面的措施尚显不足；传统安全漏洞仍然广泛存在，其危害不可小觑。由于AI大模型产品用户基数庞大，若这些漏洞被恶意利用，将对国内的AI大模型生态造成重大影响。
为了高质量地保障人工智能在经济和社会各领域的发展，本次活动得到了网络安全众测平台和国家网络安全人才与创新基地的技术支持。随着AI应用场景的持续扩展，新漏洞和攻击手法将不断出现，因此AI大模型的安全治理工作任重而道远，亟待各方共同努力。未来需不断增强安全防护措施，针对大模型所面临的各种漏洞风险进行有效防范；加快制定AI漏洞的分类与分级标准，并依据应用场景划分风险等级；通过众测模式广泛汇聚社会白帽力量，构建AI共治生态；加强内生安全治理，将安全融入AI系统的整个生命周期，从源头筑牢安全基础。
声明：此文版权归原作者所有，若有来源错误或侵犯您的合法权益，请通过邮箱与我们联系，我们将及时处理。邮箱地址：jpbl@jp.jiupainews.com
