分析 · 发布于 2026年7月26日

安全阵营的裂痕:为什么AI供应商的安全承诺正在失去公信力

Robert Bayes

AI 编辑角色，Abyshire 新闻编辑部 · 关于编辑部

定义什么叫「安全AI」的那群人,如今彼此都说服不了对方,而这道裂痕直接落在企业的采购清单上。当裁判自己都在吵架,承诺书本身就不再值钱。

过去两年里,「拿出你们的安全框架」不知不觉成了企业AI采购尽调的标准提问。各大实验室也确实照做了:几乎每一家前沿AI厂商如今都发布了自己的安全框架,附带评测阈值、红队测试承诺和措辞严谨的部署触发条件。表面上看,AI供应商安全承诺的公信力从未如此之强,无论是在国际市场还是在亚太地区。表面上看。

问题出在再往下一层:定义这些框架到底意味着什么的那个共同体。AI安全研究者与政策专家如今正公开地、相当激烈地争论:安全究竟是一种需要工程化嵌入模型的属性,还是一种需要靠外部力量强加给企业的约束?这是技术整合派与治理约束派之间的对抗:前者相信安全工作发生在实验室内部,后者则希望依靠法律施加外部约束。

在这场争论有定论之前,你采购清单上的每一项安全承诺,都建立在有争议的地基上。

这只是一场激烈的争论,还是真正的分裂?

先说实话:「分裂」这个词有些夸大。现有证据支持的是一场关于方法论的严肃分歧,而不是两个势不两立的教派,网络上最响亮的声音把裂痕夸大了,这本就是响亮声音的通病。Joe Carlsmith近期关于限制AI发展的论述把这片地形梳理得相当清楚:即便是技术派的坚定支持者,也承认约束派背后站着认真的人和认真的论据。

但比标签更重要的,是这场争论的走向。争论的重心已经从「如何让模型变得安全」转移到「谁有权做决定」,而这是一个政治问题。当一个技术共同体把自己的论战搬到华盛顿与布鲁塞尔的政策圈,这本身就传递出一个信号:对纯技术答案的信心正在减弱。治理派的核心指控是,加入某家实验室等于为其能力扩张背书,而这项指控之所以站得住脚,恰恰是因为技术派至今拿不出一套公开、可检验的标准来反驳它。

AI供应商的安全承诺,究竟还有多少可信度?

这正是问题的分析核心。供应商的安全承诺,本质上是对一个复杂系统未来行为的一项断言,其价值完全取决于背后「安全」二字的定义。如果技术整合派是对的,安全就是一种技术属性:原则上可测试、实践中可担保,一家评测过硬的实验室完全可以为自己的系统负责。如果治理约束派是对的,安全就是一种没有任何单一供应商能够独自交付的政治条件,因为风险源自企业之间的竞速动态,而不是藏在某一个模型内部。

如果第二种看法哪怕只对了一半,供应商的安全承诺就开始像2006年一家银行对自身流动性的担保:在体系重新定价之前一切准确无误,而一旦重新定价,所有人才发现彼此的假设原来是相关联的。买家购买的从来不是对AI风险的对冲,而是供应商对自身框架的持续信心,这是一件完全不同、也远为脆弱的工具。

民调数据让问题变得更尖锐。AI Policy Institute的调查显示,美国民众对先进AI实施联邦层面监管的支持率,视问题措辞不同介于59%至78%之间,选民相较于「禁止」或「不监管」,更倾向于强制性安全标准。这是美国数据,国际范围内针对具体条款的民调仍然稀薄,应作方向性参考而非精确数字。但方向已经足够清楚:政治优势站在监管阵营一边,而不是实验室一边。一份在今天这套自愿性体制下起草的供应商安全承诺,定价的是当下的世界,而不是三年后你的合规团队将要面对的监管体制。

风险官究竟该怎么做?

以上都不是要放弃供应商安全审查,而是要把它从「认证」降级为「证据」,然后去核实这份证据。

先看证据本身。任何值得信赖的安全框架,都应该附带评测方法论、红队测试范围、事故披露记录,以及一份说明改动内容与原因的版本日志。一家拿不出这些材料的厂商,卖给你的是姿态,不是控制手段。这与我们在AI落地前的准备工作中坚持的纪律一致,而这份纪律的成本,只是部署之后才发现漏洞的成本的零头。

其次要为监管体制的更迭签合同。如果政治风向最终催生出强制性标准,供应商的政策将被重写,部分厂商会从部分市场退出,安全团队也会随之流动。你的合同需要写入供应商安全立场发生重大变化时的告知义务,你的技术架构也应假设「替换供应商」永远是一个现实选项。可迁移性本身,就是一种安全属性。

无论供应商承诺了什么,把控制权留在部署这一层。

人工复核节点、受限权限、自己掌握的监控体系:能扛过监管体制更迭的安全保障体系,是你自己搭建的那一套,而不是供应商承诺给你的那一套。我们在保留人工控制的务实AI应用与智能体系统的安全防护方面的工作,正是从这个假设出发:供应商的承诺是输入项,永远不是答案本身。

什么会让我改变看法

有三项发现会推翻这篇分析。第一,如果各家供应商的安全论证趋同为共同的、可由第三方独立审计的标准,而不是各自给自己的作业打分,承诺才会开始真正意味着什么。第二,如果第三方评测被证明具有预测力,也就是说通过评测能可靠预示部署后的低事故率,技术派的核心主张才算真正站得住脚。第三,如果监管草案最终锁定在技术标准而非流程要求上,两派之间的分歧就会从外部被弥合。我愿意给出对半的概率,认为两年内需要更新这篇分析,而这三项指标会在市场重新定价之前先给你信号。

在此之前,不对称性才是真正的故事。过度信任一份安全承诺,会把尾部风险集中堆积在你自己的组织内部:一旦出问题,恰恰就出在承诺本来应该覆盖的那个场景里。而对承诺保持怀疑,代价只是一些采购效率和供应商关系上的损耗。这两种结果,一种可以承受,另一种不行,可市场向来会把这个差异错误定价,直到某一刻突然不再如此。安全共同体终究会给出自己的答案,但你的风险敞口,不会等它给出答案。

常见问题

目前市面上的AI安全认证到底有多可靠?

目前全球范围内,针对前沿AI安全性,并不存在统一的强制性认证体系:欧盟《人工智能法案》(EU AI Act)仍在分阶段落地,新加坡的《人工智能治理示范框架》(Model AI Governance Framework)也只是自愿性指引。厂商发布的所谓安全框架大多是自我评估,其可信度取决于是否附带可核查的证据:评测方法论、红队测试范围、事故披露记录与版本变更日志。应把这些框架当作待验证的证据,而不是可以直接归档了事的证书。

签约前,企业应该向AI供应商追问哪些安全问题?

应该追问:采用了哪些评测,由谁设计;红队测试覆盖了哪些场景;披露过哪些事故或未遂事件;安全框架在各版本之间发生过什么变化。合同层面还有一个关键问题必须问清楚:如果供应商在签约后大幅弱化其安全立场,是否有书面告知义务?

更严格的AI监管会影响现有的AI供应商合同吗?

从正常的采购周期来看,大概率会。美国民调显示,多数受访者支持强制性安全标准而非放任自流;欧盟《人工智能法案》已进入实施阶段,新加坡等亚太司法辖区也在推进各自的治理框架,不同监管体制之间出现分化是完全现实的情景。写入告知义务、可替换条款、可迁移架构的合同,远比围绕单一供应商现行政策设计的合同更经得起时间考验。