随着生成式人工智能技术的深度应用，大模型在推动产业变革的同时，其安全风险的复杂性与隐蔽性也日益凸显。除了通过防护手段抵御外部威胁，对大模型自身的安全状态进行全面、科学的评估，也成为构建大模型安全生态的关键环节，在此背景下，大模型安全评估系统应运而生。

大模型安全评估系统

大模型安全评估系统是指针对目标大模型的内容安全、组件安全等进行系统性安全检测、风险识别和合规性验证的网络安全产品，评估目标是有效发现大模型在部署和应用过程中是否符合法律及社会规范，是否存在输出违法有害信息、泄露关键信息和重要数据、生成虚假与误导等风险，以及大模型自身的组件脆弱性等。

典型大模型安全评估系统架构图

我中心在深耕大模型安全防护领域的基础上，针对市场对大模型安全评估工具的迫切需求，依托自身在网络安全检测与认证领域的技术积累，研究制定了TRIMPS-JSGF-036：2025《信息安全技术 大模型安全评估系统认证技术规范》，从安全功能要求、自身安全要求和安全保障要求等方面规定了大模型安全评估系统的技术要求，并按照产品特性进行了基本级和增强级的划分。

近日，我中心已向北京启明星辰信息安全技术有限公司和北京网御星云信息技术有限公司首颁了该类产品的认证证书（增强级），获证产品名称分别为“天镜大模型应用安全评估与加固系统 V3.0”和“网御大模型应用安全评估与加固系统 V3.0”。证书可通过国家认证认可监督管理委员会网站(http://cx.cnca.cn/)或认证中心官网(http://trimps.net.cn/)进行查询。

此次首批大模型安全评估系统的检测完成，填补了国内大模型安全评估领域专业化检测的空白，与此前发布的大模型安全防护围栏产品认证形成互补，共同构建起“评估-防护-再评估”的大模型安全全链条保障体系。我们相信，首批大模型安全评估系统的检测成果将进一步推动大模型安全领域的技术迭代，引导行业形成“评估、防护、持续优化”的安全理念。我中心也将继续紧跟人工智能技术发展趋势，完善大模型安全评估与认证体系，为构建安全、可靠、可控的人工智能应用环境持续贡献力量。

技术咨询交流：宋博士，13916228291

认证咨询交流：徐老师，021-68698277

检测业务咨询：林老师，021-68698130