EN FR ES PT DE AR 中文

如何避免AI供应商锁定:别买模型,要建自己的编排层

开源大模型与闭源前沿模型之间,是一段可以量化的差距,不是一道跨不过去的鸿沟。理性的应对之道在架构层面:把切换成本留在你自己掌控的编排层里,让一份有据可查的工作负载核算,而不是排行榜名次,来决定该接入哪个模型。

问如何避免AI供应商锁定,多数答案会指向合同条款和退出条件,但这找错了层级。AI系统里的锁定本质上是架构问题,而非法律问题:一旦你的提示词、工具集成、评测体系和团队习惯都围绕某一家的接口搭建起来,退出条款就只是一纸摆设,因为真正的切换成本早已以工程时间的形式支付出去。英国竞争与市场管理局(CMA)在其关于AI基础模型的评估中提出过类似判断,认为切换壁垒和纵向捆绑,是这个市场最可能走向固化的机制。这个判断具有普遍参考价值,不限于英国市场。因此真正值得追问的,不是你要不要承担切换成本,而是你把它放在哪一层。

前沿溢价为何正在承压?

闭源模型的定价,本质上是在为一段差距定价:被计量收费的前沿能力,与其他人能以更低成本获得的能力之间的距离。Epoch AI的分析估计,最好的开源模型落后闭源前沿模型大约一年左右,具体差距因评测基准而异,也随新版本发布不断变化。这段差距是在缩小还是在扩大,目前仍存在真实的争议,诚实的采购方应把它当作一个开放问题,而不是定论。真正重要的是它的形态:这是一段区间,不是一道鸿沟,而区间是有价格的。

企业里的大部分AI工作,是分类、抽取、撰写、摘要和智能体(agent)流程编排。一旦某个落后于前沿的模型达到某项任务的合格线,该任务的采购标准就会从“最强”切换为“够用”,而且这个切换很少会逆转,因为几乎没有采购团队愿意为工作负载根本用不上的能力支付溢价。这个论断需要一个明确的限定:“够用”是针对具体任务的。一个足以胜任工单摘要的模型,未必能胜任合同审阅,这正是为什么整套论证要靠评测支撑,而不是靠直觉。

切换真正能省下什么?一个实测案例

空谈“模型正在被商品化”说服不了任何一个握着预算的人,所以不妨从一份有据可查的工作负载算起。据Klarna披露,其AI客服助手在上线第一个月就处理了230万次客户对话,公司方面表示这相当于700名全职客服的工作量。这是Klarna自己披露的数字,应保持惯常的审慎,但有参考价值的是量级:按此估算,年化对话量大约是2,800万次。

接下来,拿着当前的价目表做一遍算术。以下代币(token)数字是为便于说明而设的假设,既不是Klarna的真实数据,也不是任何厂商的报价。假设一次常规客服对话,算上上下文和工具调用,消耗约3,000个输入代币、300个输出代币。按年化2,800万次对话计算,输入代币总量约为840亿。若按每百万代币10美元计价,仅输入部分的年度账单就约为84万美元;若换成一个能通过同一评测标准、每百万代币1美元的更便宜模型,这个数字约为8.4万美元。近来公开价目表在旗舰级与经济级之间的差距经常超过十倍,但请务必在动手测算前核对实时数字,因为这些价格每季度都在变,这也正是问题的关键所在。在一个高用量的工作负载上,持续保持这样的价差,足以支撑相当规模的编排层工程投入。

什么情况下厂商中立的编排层不划算?

诚实地说,还有另一面账要算。把同样的算术套用到每月2万次对话的规模上,十倍的价差一个月也就值几千元人民币,连维护一个适配器都不够,更别提一整套路由层了。当工作负载依赖某项真正意义上的厂商专属能力时,编排层同样很难划算,比如一个经过微调的专属模型、一项与你架构深度绑定的缓存折扣,或是竞争对手暂时还追不上的工具调用能力。这些情形下,溢价买到的是真实的东西,追求可迁移性等于主动放弃它。比较也必须同类对齐:拿一家的旗舰模型去对另一家的经济模型,比出来的是档位差异,而不是厂商差异;只有在托管、数据驻留和支持条款都可比的前提下,比较通过同一评测门槛的模型,这份测算才不是自欺欺人。当用量足够大、任务边界清晰、不止一个模型能达标,并且你手上有评测数据支撑时,编排层才划算;条件不满足时,锁定单一厂商可能就是理性选择,假装并非如此,本身也是一种营销话术。

那些偏软性的差异化卖点,也值得打个折扣看待。厂商在卖“感觉”:这个模型体贴周到,那个模型犀利敏捷。但实际上,这种“个性”很大程度上依赖叠加在模型权重之上、可以替换的一层指令和默认设定,而且相当一部分这种“性格”,在把同一套指令迁移到另一个模型后依然能大体复现。一个用一页文字就能大致复刻的特质,不足以支撑长期溢价。同样的折扣逻辑也适用于“稀缺性”:对一个按代币计费的产品搞售罄、限量开放注册,与其说是质量的证明,不如说更像是需求管理手段,在厂商说清楚真正的瓶颈之前,最好都当作营销信号来看待。

如何避免AI供应商锁定?

做法是不再试图押注“永久赢家”,而是把切换成本搬到你自己掌控的那一层。具体而言,就是让提示词与上下文管理、工具定义、路由规则、日志记录和评测体系都留在你自己的编排层里,通过一层抽象把任意模型接口都变成可插拔的组件。当价格或能力格局发生变化时,替换模型就是一次配置调整,而不是一次重写,前面那份实测算术,也就从一场令人生畏的迁移,变成预算会议上的一项常规决策。

这套编排层作为控制界面,还有另一重价值。模型有时会把没完成的工作汇报成已完成,因此让一家实验室的模型审核另一家的输出,即跨厂商互审,是企业能采取的更务实的核验手段之一,而这只有在架构本身厂商中立的前提下才可行。我们在智能体系统的安全治理让人保持对实用AI的掌控两篇文章中,探讨了这方面的治理问题。

如果排行榜可以刷分,该用什么来评测?

公开基准测试的排名,对采购决策已经基本失去参考价值:主流评测集早已饱和,专门针对它调优的动机又太强。真正能替代排行榜的东西,朴实无华,而且完全属于你自己:拿你自己的任务、自己的数据、自己的失败成本去做评测。美国国家标准与技术研究院(NIST)的AI风险管理框架,用标准文件式的语言表达了同样的道理:只有当指标契合系统的具体场景和实际用途时,测量才有意义。一份排行榜说不清一个模型能不能干你的活,你自己那套评测集用一个下午就能说清楚。

而这套评测集本身,正是对抗锁定的基础设施。如果你能快速给任何候选模型打分、看它在你的工作上表现如何,切换模型就不再是一件令人畏惧的事,而会变成一项常规的成本决策,这才是关键所在。这属于“准备就绪”工作,应当排在“动手构建”之前,这个先后顺序背后的逻辑,我们在构建之前先谈AI准备度一文中有详细阐述,而独立技术战略服务,正是为了帮你把这套准备工作建立起来。厂商卖的是引擎,燃料要按季度、按实际表现自己去买;引擎,留在自己的车库里。

常见问题

开源大模型对企业应用来说够用吗?

诚实的回答是:测了才知道。先明确“够用”对这项具体任务意味着什么,再用你自己的数据给候选模型打分。如果一个更便宜的开源模型能达到你的合格线,那么前沿溢价买到的就是你的工作负载根本用不上的能力。剩下的托管、数据驻留、支持条款等问题,属于工程和采购范畴,不是能力问题。

一个厂商中立的AI编排层,具体应该包含什么?

一个提示词与上下文存储层、工具与函数定义、路由与容灾逻辑、日志与可观测性体系、一套评测框架,以及一层薄的适配器,让任何模型接口都能即插即用。检验标准很简单:如果替换底层模型只是一次配置改动,你就真正掌握了这套编排层;如果需要重写,那就是厂商掌握了你。

同时使用多个AI模型,会比只用一家厂商更贵吗?

确实存在真实的开销:要维护适配器,要多跑评测,偶尔还得放弃某个厂商专属功能。是否划算是一道算术题,不是一条教条:用你每月的代币用量,乘以能通过你评测门槛的几个模型之间的价差。高用量的工作负载,通常在第一次有更便宜的模型达标时就能收回这笔开销;低用量的可能永远收不回来,提前把这一点说清楚,本身就是这套方法论的一部分。

相关阅读

本文由 Abyshire 专有编辑系统的 AI 编辑角色撰写,并经我们的团队审核。