2026 年 11 月 19 日到 21 日,2026 世界计算大会在长沙国际会议中心举行。会场之外,另一条更值得企业决策者留意的主线在同一天推进:由 24 家单位共同编制的《工业和信息化领域人工智能安全评测框架(2026 版)》进入公开视野,它覆盖底座、应用、业务三个层面,把基准测试、对抗测试与场景化测试并用,也把评测拆成准备、实施、复核、整改、追踪五个环节。对中小企业来说,这套框架不是新增的行…
2026 年 11 月 19 日到 21 日,2026 世界计算大会在长沙国际会议中心举行。会场之外,另一条更值得企业决策者留意的主线在同一天推进:由 24 家单位共同编制的《工业和信息化领域人工智能安全评测框架(2026 版)》进入公开视野,它覆盖底座、应用、业务三个层面,把基准测试、对抗测试与场景化测试并用,也把评测拆成准备、实施、复核、整改、追踪五个环节。对中小企业来说,这套框架不是新增的行政负担,而是一种新的准入语言——供应商开始问”你们测过吗”,客户开始问”报告能拿出来吗”。本文把框架翻译成可以直接落地的上线与投标清单。大会本身的参会与对接路径,我们在《2026 世界计算大会 11 月 19 日长沙开幕:中小企业怎么参会、怎么把场景接上》里已经拆解过,此处不重复。
一、为什么”安全”从口号变成了可考题
先看产业底数。据湖南省工业和信息化厅 11 月 18 日发布的产业观察《夯实安全底座 人工智能加速走进生产一线》,2025 年我国人工智能核心产业规模超过 1.2 万亿元,人工智能企业超过 6200 家;截至 2026 年 6 月底,企业数量增至 6600 多家,智能算力规模达到 2185 EFLOPS;规模以上制造业企业中,人工智能技术应用普及率超过 30%,国产开源大模型全球累计下载量突破 100 亿次。
这里有一处需要说明的口径。站内早前引用的《国务院”人工智能+”行动一周年:政策加速落地,长沙企业如何借势转型》采用《中国新一代人工智能科技产业发展报告 2026》的截至 2025 年底口径,AI 企业数量超过 6000 家、核心产业规模突破 1.2 万亿元、智能算力规模 1590 EFLOPS;本文引用的是湖南省工信厅 11 月 18 日稿件中截至 2026 年 6 月底的更新口径,企业数量 6600 多家、智能算力规模 2185 EFLOPS。两组数据来源与时间点不同,趋势一致,不构成矛盾。另外还要区分两个容易被混用的指标:重点行业人工智能整体渗透率已突破 80%(来源:国家发展改革委,见站内《〈人工智能法〉施行首月影响复盘》),与规模以上制造业企业人工智能技术应用普及率超过 30%,前者统计的是行业层面有没有 AI 应用,后者统计的是企业层面的实际使用情况,两个口径不能互相替换。对中小企业的含义是:行业渗透率高不代表单家企业已经在用,这中间的空间正是本行业眼下最现实的机会。
制度供给是同步的。”十五五”规划纲要提出,推动建立人工智能全生命周期风险管理制度;工业和信息化部会同多部门印发《”人工智能+制造”专项行动实施意见》;在国家网信办指导下,全国网络安全标准化技术委员会发布《人工智能安全治理框架 3.0》;相关方面指导发布了人工智能安全评测框架。
这几件事叠在一起,指向同一个结论:安全从”企业自己承诺一句”变成了”有框架、有数据集、有评测机构的可验证动作”。对中小企业最直接的变化有两条:一是内部上线前要有可复核的测试证据,不能只有开发口头判断;二是对外投标、进入大客户供应链时,评测报告会逐渐变成和营业执照、产品报价一样的常规附件。
二、三层框架拆开看:底座、应用、业务
中国信息通信研究院人工智能研究所所长魏凯在上述公开报道中介绍,这份 2026 版框架覆盖底座、应用、业务三个层面,基准测试、对抗测试与场景化测试并用,为监管、研发和应用提供依据。对企业来说,三个层面不是抽象分类,而是一份分工表:你自研的东西在哪一层,就测哪一层,不要越层也不要用底层报告替上层背书。
| 层级 | 框架内的对象 | 中小企业自测重点 | 要留的证据 |
|---|---|---|---|
| 底座层 | 通用大模型、微调或蒸馏后的自有权重模型、向量库与知识库 | 输入输出是否越权、是否触发内容红线、提示注入能否绕过 | 测试用例集、回归记录、模型版本与配置快照 |
| 应用层 | RAG 问答、智能体工作流、对接 ERP/CRM/客服系统的插件 | 智能体是否越权删改、工具调用能否审计、失败能否回滚 | 权限矩阵、调用日志、回滚演练记录 |
| 业务层 | 质检、客服、报价、合同审核等具体行业场景 | 误判率与漏判率、可解释性、人工兜底、追责链路 | 场景级验收单、人工复核记录、异常处置台账 |
三类测试的分工同样值得记牢。基准测试回答”该有的功能有没有、性能够不够”;对抗测试回答”别人能不能绕过去、能不能越权”;场景化测试回答”放到我这个行业的数据和流程里会怎样”。多数中小企业的短板集中在后两类:业务跑通了就急着上线,对抗和场景回归被压到最后甚至被砍掉。
三、五个环节怎么排:准备、实施、复核、整改、追踪
魏凯同时强调,评测不是一次性买卖,要覆盖准备、实施、复核、整改、追踪全过程,在企业内部常态化运转;中国信通院的安全评测数据集已超过 200 万条,累计测试模型上百款。这句话对中小企业的价值在于给出了节奏——一次性的验收报告没用,能被复核、能被追踪的过程才可被采信。
| 环节 | 企业动作 | 产出物 | 容易被跳过的地方 |
|---|---|---|---|
| 准备 | 定范围(1 到 2 个场景)、定责任人、收集测试数据、确认环境版本 | 评测范围说明书、测试用例集 | 范围定太大,三个月做不完,最后不了了之 |
| 实施 | 跑基准测试、跑对抗测试、做场景化回归 | 测试记录、问题清单 | 只跑功能不跑对抗 |
| 复核 | 由非开发角色复跑关键用例并核对证据 | 复核签字记录 | 开发自己复核自己,报告不可采信 |
| 整改 | 按问题清单定级、分派、修复 | 整改台账、修复说明 | 只改表面现象,不改根因 |
| 追踪 | 模型或提示词变更后重跑回归、留档 | 版本对照表、回归记录 | 模型一换就忘了重新测 |
需要提醒的是,这五个环节里企业真正的成本主要压在”准备”和”复核”上:数据整理、环境搭建、样例标注、找懂业务又能提问题的人。整改成本则取决于自证质量。评测单价在不同机构之间差异较大,本文不给未经核实的金额区间,建议以公开可查的机构报价和中试基地公开服务清单为准。
四、长沙本地:马栏山已经有一家做”高可信测试”的公司
谈评测能力落地,湖南本地有一个可查的样本。据湖南省工业和信息化厅 11 月 13 日发布的《给 AI 代码配上”可信锁”》,湖南泛联新安信息科技有限公司成立于 2017 年、总部位于长沙马栏山,公司开发的 VHawk-CDC 跨时钟域验证工具软件 V1.0 入选 2026 年湖南省首版次软件产品名单,该名单由省工业和信息化厅于 11 月 11 日公布。
据该公开稿件引述(未经当事方核实),该公司市场中心运营总监胡春山表示,团队的做法是把静态分析、动态分析、形式化验证这些传统能力做成 AI 的”可信约束层”,把功能安全标准植入代码生成的全流程,用自动化测试替代人工评审。稿件还提到,这套技术已在汇川技术等智能制造企业落地,服务上千名嵌入式开发人员,AI 生成代码占比达到 30%,带动整体开发效率提升 15%、测试效率提升 50% 以上;近一年来客户增长率与业绩增长率双双突破 50%。
这条本地新闻对中小企业的直接含义不在于去采购同款工具,而在于三点认知:一是”高可信测试”在长沙已经有供给,评估方案商时可以问对方有没有类似的可复核证据产出能力;二是这类能力通常藏在方案商的测试环节里,不在产品说明书的首页,采购时需要专门追问;三是国产工具在功能安全标准落地上的路径已经跑通,这与《工业和信息化领域人工智能安全评测框架(2026版)》要求企业”把标准植入流程”的思路是一致的。
五、中外两条路线:标准加数据集,和外部独立评测
把视线放到海外,会看到一条不太一样的路径。据 Anthropic 官方新闻室公开信息:2026 年 10 月 15 日,公司宣布给予前沿模型评测非营利机构 METR 类员工的访问权限,由其独立评估自身系统的安全性,并与 Hugging Face 等机构展开早期讨论;10 月 8 日启动 Anthropic Cyber Mission,把系统安全作为长期投入;10 月 6 日扩展 Cyber Verification Program;10 月 22 日将 Agent Skills 这一智能体开放标准捐赠给 Agentic AI Foundation,已有超过 70 个智能体平台集成。
| 维度 | 国内路径 | 海外路径 |
|---|---|---|
| 标准来源 | 行业主管部门指导发布的评测框架,24 家单位编制 2026 版 | 以单点模型安全评估与红队攻防为主 |
| 评测主体 | 公共评测机构 + 行业组织 + 中试基地共同承担 | 独立第三方评测机构获授权后开展 |
| 资源形态 | 信通院安全评测数据集超 200 万条,累计测试模型上百款;30 余个国家人工智能应用中试基地开放场景、验证方案、转化标准 | 独立评测机构专项投入 |
| 对中小企业的含义 | 可依托公共数据集与中试基地降低门槛 | 引入海外模型做中国境内业务时,海外评测报告不能直接替代国内框架的合规证明 |
最后一行是本文最实用的一条提醒:国内《工业和信息化领域人工智能安全评测框架(2026版)》与海外机构的评测报告,是两套不同体系,不能互相替代。企业用海外模型承接境内业务、或用海外方案商交付项目时,除了对方提供的评测说明,还需要按国内框架补齐自己的证据链。相关的合规配套动作,可结合站内《新技术新应用备案系统上线:生成式AI备案、算法备案、深度合成合并到一个入口,中小企业的四张材料清单》与《智能体终端进网管理新规:工信部四项任务拆解,长沙 AI 应用与智能硬件企业的合规准备动作》一起看。
六、他地政策参考:厦门的”场景—补助”对照
据福建省厦门市工业和信息化局软件和信息技术处处长王罡在公开报道中的表述(未经当事方核实),厦门坚持场景牵引、安全优先、产业落地,围绕企业关心的成本,对”揭榜挂帅”攻关项目最高补助 1000 万元,对公共服务平台建设、调用备案大模型分别给予最高 2000 万元、200 万元补助;厦门推行”遴选、揭榜、验证、落地”机制,已遴选发布 77 个机会场景、落地 26 个,面向全国团队开放。公开报道同时提到,厦门人工智能核心产业规模突破 550 亿元,公共算力超过 3500P,备案大模型 21 个、算法 148 个;省级人工智能产业园集聚企业近 500 家,一年新增 134 家,建成人工智能创新中心等 36 个赋能平台。
| 厦门做法 | 公开口径 | 长沙中小企业的借鉴点 |
|---|---|---|
| 场景遴选 | 遴选发布 77 个机会场景、已落地 26 个 | 场景是被遴选和验证过的,不是自己拍脑袋定的 |
| 公共服务平台 | 建设补助最高 2000 万元 | 平台型资源才是中小企业的杠杆,自建全套不划算 |
| 调用备案大模型 | 补助最高 200 万元 | 用已备案模型有政策路径,走这条路更省事 |
| “揭榜挂帅” | 攻关项目最高补助 1000 万元 | 攻关是龙头企业的题,中小企业应走”用”而非”攻” |
| 赋能平台 | 建成人工智能创新中心等 36 个 | 本地测试、验证资源优先从这里找 |
湖南本地的对应资源是湖南场景超市上架的 279 个机会场景,我们在此前的《长沙AI应用场景从哪找:湖南场景超市上架279个机会后的三条对接路径》里写过对接方法;算力来源侧的选择,可对照《AI 算力成本对比:长沙中小企业的算力来源选择清单》。这两条资源正好对应评测框架里的两个前提:先有被验证过的场景,再有跑得起的算力,评测才有意义。
七、上线前的 12 项自检清单
下面这张表可以直接改造成企业内部的上线评审单。每一项都要求留下可交出去的证据,而不是一句”没问题”。
| 序号 | 自检项 | 涉及层级 | 证据形式 | 未通过的处理 |
|---|---|---|---|---|
| 1 | 所用模型服务是否有可查的合规与安全说明 | 底座层 | 供应商说明文件 | 暂缓上线 |
| 2 | 输入输出是否设了红线词与越权拦截 | 底座层 | 规则配置截图 | 补规则 |
| 3 | 提示注入是否做过对抗测试 | 底座层 | 对抗用例与结果 | 补测试 |
| 4 | 智能体工具调用是否有权限白名单 | 应用层 | 权限矩阵 | 收敛权限 |
| 5 | 操作是否留痕、调用日志是否可查 | 应用层 | 日志样本 | 补埋点 |
| 6 | 失败路径能否在数据层面回滚 | 应用层 | 回滚演练记录 | 做演练 |
| 7 | 人工兜底是否有人、有流程、有时限 | 业务层 | 兜底流程文件 | 补流程 |
| 8 | 涉及个人信息的流向是否可追溯 | 业务层 | 数据流向图 | 梳理链路 |
| 9 | 供应商侧是否写明安全配合与举证义务 | 全层 | 合同条款 | 补条款 |
| 10 | 是否至少跑过一轮场景化回归 | 业务层 | 回归记录 | 排期补跑 |
| 11 | 文档与证据是否可交给客户或监管核查 | 全层 | 归档清单 | 整理归档 |
| 12 | 复核人是否为非开发角色 | 全层 | 复核签字 | 换人复核 |
八、投标时怎么写:三条能加分的表述
把评测写进标书,本质是把”我们有安全”换成”我们可以被验证”。有三处值得落笔:一是技术方案里单列”安全与评测”章节,结构直接对应底座、应用、业务三层,让评审看到覆盖面;二是响应偏离表或服务承诺里明确写出可配合第三方评测、可提供可复核证据;三是把”整改、复测、追踪”写进质保期或运维期条款,而不是交付即结束。
这里也有一条边界:条款内容要以实际招标文件和合同为准,不要写没有证据支撑的过度承诺。这类表述在验收阶段往往变成对己方不利的条款,识别方案商能力时可以从他们是否会主动索要测试样例这一点看出差别,站内《2026年中小企业AI项目招投标避坑指南》里有更细的判据。
九、四个容易踩的坑
坑一:把评测当成一次性验收。模型版本一换、提示词一改、业务数据一刷新,之前的报告就不再代表当前状态。追踪环节的价值就在这里。
坑二:只测功能不测对抗。业务能跑通说明不了越权风险,而越权恰恰是智能体场景中损失最大的一类问题。
坑三:拿供应商白皮书当评测报告。白皮书是产品说明,不是可复核的测试证据。真正的评测要有范围、有用例、有问题清单、有整改记录。
坑四:只测底座不管业务层。出事故的位置通常在业务层——错误报价、误判质检、错误回复客户。底座层测试通过,并不代表业务层可用。
十、30 天内可以跑完的节奏
| 时间段 | 动作 | 产出 |
|---|---|---|
| 第 1 到 7 天 | 选 1 到 2 个场景,定范围与责任人,准备测试数据与环境版本 | 评测范围说明书、用例集 |
| 第 8 到 15 天 | 整理已有证据:权限矩阵、日志样本、数据流向图 | 证据包初版 |
| 第 16 到 22 天 | 跑基准测试与对抗测试,登记问题 | 测试记录、问题清单 |
| 第 23 到 26 天 | 做业务场景化回归,验证误判与兜底 | 场景验收单 |
| 第 27 到 30 天 | 整改复测、归档、指定下一轮回归触发条件 | 整改台账、复核签字、回归计划 |
如果企业还没有成体系的治理框架,可以先从评测这一个环节切进去。治理域怎么划分、规模化怎么推进,我们在《2026 企业AI治理指南:智能体规模化的六个治理域与90天推进表》里给过一套结构;两条线的关系是治理定规则、评测出证据,评测先行往往是阻力更小的那一步。
十一、给决策者的 6 个自检问题
把上面的内容压缩成六个问题,可以在任何一次 AI 项目评审会上直接问:
- 我们的 AI 应用在客户或监管面前,用哪一份材料证明”测过”?
- 最近一次模型或提示词变更后,回归测试跑过吗?记录在哪?
- 智能体如果被诱导去删改业务数据,系统会拦在哪一层?
- 出了问题,我们的日志能不能还原出事前的完整操作链路?
- 供应商提供的评测材料,能不能对应到国内框架的底座、应用、业务三层?
- 这套评测是”一次性验收”,还是已经变成季度动作?
这六个问题如果都能当场答上来,企业的 AI 应用就具备了向大客户交付、向监管解释的基础条件;答不上来的部分,就是下一个 30 天的工作量清单。
免责声明:本文基于公开政策文件与湖南省工业和信息化厅公开发布稿件撰写,所述效果为典型应用中的可能表现,具体结果因行业、业务规模及实施条件而异,不构成对预期效果的承诺。文中提及的企业信息均引自上述公开发布稿件,相关表述未经当事方核实,不构成商业推荐或投资建议。文中未给出具体评测单价与效果数字,相关报价请以公开可查的机构报价为准。
