共计 1221 个字符，预计需要花费 4 分钟才能阅读完成。
【
云南网报道（记者 贺凯）在9月16日举行的第22届中国网络安全年会暨国家网络安全宣传周的网络安全协同防御分论坛上，国内首次发布了关于AI大模型的实网众测检验结果。这一活动得到了中央网信办网络安全协调局的指导，由国家计算机网络应急技术处理协调中心主办，吸引了559名“白帽子”参与，对国内15款大模型及其应用产品进行了全面的漏洞测试。
此次测试涉及了10家AI企业的15款产品，涵盖了基础大模型、垂直领域大模型，以及智能体和模型开发平台等相关应用。这些测试对象既包括单模态大模型，也有多模态大模型，具有相当广泛的代表性。在参与测试的主流大模型中，腾讯的混元大模型、百度的文心一言、阿里巴巴的通义APP以及智谱华章的智谱清言等产品所发现的漏洞风险相对较低，显示出较高的安全防护能力。
此次活动涌现出了一批杰出的“白帽子”，如梁宏宇、马宝新和刘铭等。他们针对实时在线的AI大模型及应用产品，在厂商的防护体系下，成功挖掘出了高危甚至严重漏洞，充分展现了他们的专业技能和努力付出。参与测试的“白帽子”不仅来自网络安全企业，还包括科研院校和社会各界，他们从外部攻击者的视角多维度地进行实战测试，取得了丰硕的成果，彰显了对人工智能等新兴技术领域安全的高度关注及为产业发展贡献力量的热情。
根据统计，本次活动共发现281个安全漏洞，其中177个是大模型特有的，占比超过60%。这一数据充分显示出，当前AI大模型产品面临大量超出传统安全领域的新兴安全风险。具体而言，典型的漏洞风险包括：部分产品存在严重的不当输出类漏洞；信息泄露类漏洞频繁出现，潜在安全隐患较大；提示注入类漏洞被普遍识别，成为大模型常见的漏洞风险；部分大模型对无限制消耗类攻击的防护措施有待提升；传统安全漏洞仍然普遍存在，其危害不容小觑。鉴于AI大模型产品的用户基数庞大，若这些漏洞被恶意利用，将对国内的AI大模型生态造成严重影响。
为了确保人工智能在经济社会各个领域的高质量发展，本次活动得到了网络安全众测平台和国家网络安全人才与创新基地的技术与环境支持。随着AI应用场景的不断拓展，新的漏洞和攻击方式也将不断涌现，因此AI大模型的安全治理工作任重而道远，需要各方共同携手合作。未来，应持续加强安全防护措施，针对大模型面临的各种漏洞风险进行有效防范；加快制定AI漏洞的分类与分级标准，依据应用场景划分风险等级；通过众测模式汇聚社会的白帽力量，共同构建AI共治生态；进一步加强内生安全治理，将安全理念深入AI系统的全生命周期，从根本上筑牢安全基础。
声明：此文版权归原作者所有，若有来源错误或侵犯您的合法权益，请通过邮箱与我们联系，我们将及时处理。邮箱地址：jpbl@jp.jiupainews.com
