Como evitar o lock-in em IA: não compre um modelo, construa a estrutura que o comanda
A distância entre os modelos de peso aberto e a fronteira fechada é um intervalo, não um abismo. A resposta sensata é arquitetural: mantenha o custo de mudança numa camada de orquestração que a empresa controla, e deixe que seja uma carga de trabalho orçamentada, e não uma tabela classificativa, a decidir que modelo ligar.
Perguntar como evitar o lock-in de fornecedores em IA leva a maioria das respostas para cláusulas contratuais e condições de rescisão. É a camada errada para defender. O aprisionamento nos sistemas de IA é arquitetural, não jurídico: quando os seus prompts, integrações de ferramentas, avaliações e hábitos de equipa já foram moldados à volta da API de um único fornecedor, a cláusula de saída é decorativa, porque o verdadeiro custo de mudança já foi pago em horas de engenharia. A Autoridade da Concorrência e dos Mercados do Reino Unido (CMA) fez uma versão deste argumento na sua análise aos modelos de fundação de IA, ao identificar as barreiras à mudança e as integrações verticais como os mecanismos com maior probabilidade de solidificar o mercado. A questão prática, portanto, não é se vai suportar um custo de mudança. É onde escolhe colocá-lo.
Porque está o prémio dos modelos de fronteira sob pressão?
O preço dos modelos fechados assenta numa distância: a que separa aquilo que a fronteira tarifada consegue fazer daquilo que qualquer outro consegue obter por menos. Uma análise da Epoch AI estimou que os melhores modelos de peso aberto ficam cerca de um ano atrás da fronteira fechada, com o atraso a variar consoante o teste de referência e a mover-se a cada novo lançamento. Se este intervalo está a encurtar-se continua genuinamente em aberto, e um comprador honesto deve tratá-lo como tal. O que importa é a sua forma: é um intervalo, não um abismo, e um intervalo tem preço.
A maior parte do trabalho empresarial com IA resume-se a classificação, extração, redação, síntese e canalização de agentes. Assim que um modelo atrás da fronteira ultrapassa o patamar exigido por uma determinada tarefa, o critério de compra dessa tarefa passa de «o melhor» para «o suficiente», e raramente volta atrás, porque poucos departamentos de compras pagam um prémio por capacidade que a carga de trabalho não usa. Esta afirmação exige a sua reserva dita sem rodeios: a suficiência é específica da tarefa. Um modelo suficiente para resumir tickets de suporte pode ficar muito aquém do necessário para rever contratos, e é por isso que todo o argumento passa pela avaliação, não pelo instinto.
O que poupa realmente a mudança de fornecedor? Um exemplo com números
A conversa abstrata sobre a comoditização de modelos não convence ninguém com um orçamento para gerir, por isso comecemos por uma carga de trabalho documentada. A Klarna revelou que o seu assistente de IA geriu 2,3 milhões de conversas de apoio ao cliente no primeiro mês, um volume que a empresa equiparou a 700 agentes a tempo inteiro. São números da própria Klarna e merecem o ceticismo habitual reservado a sucessos autodeclarados, mas o que interessa aqui é o volume: cerca de 28 milhões de conversas por ano.
Façamos agora as contas com as tabelas de preços atuais à mão. Os valores de tokens abaixo são pressupostos ilustrativos escolhidos pela sua clareza, não números da Klarna nem de qualquer fornecedor. Assuma-se que uma conversa de apoio ao cliente comum consome cerca de 3000 tokens de entrada e 300 tokens de saída, já com contexto e chamadas a ferramentas incluídos. A 28 milhões de conversas por ano, isso são aproximadamente 84 mil milhões de tokens de entrada. A 10 dólares por milhão, só a fatura de entrada ronda os 840 mil dólares por ano; a 1 dólar por milhão, num modelo mais barato que passe na mesma bateria de avaliação, ronda os 84 mil dólares. As tabelas de preços publicadas têm, nos últimos tempos, diferido mais de dez vezes entre os níveis topo de gama e os económicos, mas confirme os valores em vigor antes de construir o argumento de negócio: mudam trimestralmente, e é precisamente esse o ponto. Uma disparidade desta ordem, sustentada numa única carga de trabalho de grande volume, financia uma quantidade considerável de engenharia da estrutura de orquestração.
Quando é que uma estrutura independente de fornecedor não compensa?
A honestidade exige também a outra coluna. Façam-se as mesmas contas a 20 mil conversas por mês e uma diferença de dez vezes vale algumas centenas de euros por mês, o que não cobre sequer a manutenção de um único adaptador, quanto mais uma camada de encaminhamento. Uma estrutura deste tipo também dificilmente compensa quando a carga de trabalho depende de uma capacidade genuinamente exclusiva de um fornecedor: um modelo afinado à medida, um desconto de cache à volta do qual a arquitetura foi construída, ou um comportamento de uso de ferramentas que a concorrência ainda não iguala. Nesses casos, o prémio está a comprar algo real, e a portabilidade significaria abdicar dele. As comparações também têm de ser feitas em condições equivalentes. Colocar o produto de topo de um fornecedor contra o nível económico de outro diz alguma coisa sobre níveis de serviço, não sobre fornecedores; compare-se modelos que passem no mesmo patamar de avaliação, com alojamento, residência de dados e condições de suporte incluídos, ou a folha de cálculo é ficção. A estrutura compensa quando o volume é elevado, as tarefas estão bem definidas, mais do que um modelo ultrapassa o patamar exigido, e existem avaliações que o comprovem. Na ausência destas condições, estandardizar num único fornecedor pode ser a escolha racional, e fingir o contrário seria também uma forma de marketing.
Vale também a pena descontar os diferenciadores mais subjetivos. Os fornecedores vendem sensação: este modelo é atencioso, aquele é rápido e irreverente. Na prática, grande parte desse carácter percebido vive numa camada substituível de instruções e definições por defeito colocada sobre os pesos do modelo, e uma parte surpreendente dela viaja quando as mesmas instruções são movidas para outro modelo. Um traço que se consegue reproduzir substancialmente com uma página de texto é motivo fraco para um prémio de preço. O mesmo desconto aplica-se à escassez: níveis esgotados e registos limitados num produto cobrado por token são mais plausivelmente gestão de procura do que prova de qualidade, e devem ser lidos como sinais de marketing até o fornecedor explicar a limitação real.
Como evitar o lock-in de fornecedores de IA?
Deixa-se de tentar escolher o vencedor permanente e desloca-se o custo de mudança para uma camada que a própria empresa controla. Em concreto, isso significa que a gestão de prompts e contexto, as definições de ferramentas, as regras de encaminhamento, o registo de eventos e a avaliação vivem na camada de orquestração da empresa, atrás de uma abstração que trata qualquer API de modelo como uma ficha que se liga e desliga. Quando o panorama de preço ou capacidade se altera, trocar de modelo passa a ser uma alteração de configuração em vez de uma reescrita, e o exemplo com números acima transforma-se numa decisão que se toma numa reunião de orçamento, não numa migração a temer.
A estrutura ganha também o seu lugar como superfície de controlo. Os modelos por vezes reportam trabalho como concluído quando não está, pelo que a revisão cruzada entre fornecedores, usar o modelo de um laboratório para auditar o resultado de outro, é uma das verificações mais práticas que uma empresa pode fazer, e só é possível se a arquitetura for independente de fornecedor à partida. Este tema da governação é aprofundado no nosso trabalho sobre sistemas agénticos seguros e sobre manter o controlo humano sobre a IA aplicada.
Se as tabelas classificativas estão viciadas, com que se avalia?
A liderança nas tabelas classificativas públicas deixou de ser útil para as compras: as baterias de testes populares estão saturadas e o incentivo para as otimizar é enorme. O que as substitui é aborrecido e é seu: avaliação sobre as suas próprias tarefas, com os seus próprios dados, com os seus próprios custos de erro. A Estrutura de Gestão de Risco de IA do NIST defende a mesma ideia em linguagem própria de organismo de normalização: a medição só tem significado quando as métricas se ajustam ao contexto e ao uso pretendido do sistema. Uma tabela classificativa não consegue dizer se um modelo serve para o seu trabalho. Uma tarde com a sua própria bateria de avaliação consegue.
Essa bateria é, ela própria, a infraestrutura anti-lock-in. Se for possível pontuar qualquer modelo candidato face ao seu trabalho rapidamente, mudar de fornecedor deixa de ser assustador e passa a ser uma decisão de custo de rotina, que é todo o jogo. Este é trabalho de preparação, e pertence antes da construção: o argumento para esta ordem está desenvolvido no nosso artigo sobre preparação para a IA antes de construir, e estabelecê-la é exatamente para isso que serve um acompanhamento independente de estratégia técnica. Os fornecedores vendem motores; compre o combustível pelo mérito, trimestre a trimestre, e mantenha o motor na sua própria garagem.
Perguntas frequentes
Um modelo de peso aberto é suficientemente bom para uso empresarial?
Para a maioria das cargas de trabalho, a resposta honesta é: teste-o. Defina o que significa «bom» para a tarefa em concreto e depois pontue os modelos candidatos com os seus próprios dados. Se um modelo de peso aberto mais barato ultrapassar o patamar exigido, o prémio da fronteira está a pagar capacidade que a carga de trabalho não utiliza. As questões que restam, alojamento, residência de dados, suporte, são matérias de engenharia e de compras, não de capacidade.
O que contém, na prática, uma camada de orquestração de IA independente de fornecedor?
Um repositório de prompts e contexto, definições de ferramentas e funções, lógica de encaminhamento e recurso, registo e observabilidade, uma bateria de avaliação e um adaptador simples que transforma qualquer API de modelo numa ficha. O teste é simples: se trocar o modelo subjacente é uma alteração de configuração e não uma reescrita, a empresa é dona da sua estrutura. Se é uma reescrita, é o fornecedor que é dono da empresa.
Usar vários modelos de IA custa mais do que estandardizar num único fornecedor?
Há custos reais: adaptadores para manter, mais avaliações para correr e, ocasionalmente, uma funcionalidade exclusiva de um fornecedor à qual é preciso renunciar. Se compensa é uma questão de aritmética, não de doutrina: multiplique o volume mensal de tokens pela diferença entre as tabelas de preços dos modelos que passam no seu patamar de avaliação. Cargas de trabalho de grande volume normalmente recuperam este custo logo na primeira vez que um modelo mais barato ultrapassa o patamar; as de baixo volume podem nunca o fazer, e dizê-lo com antecedência faz parte da disciplina.
Relacionado
- A perda de competências por causa da IA é o risco que o seu conselho de administração não está a avaliar
- O Oligopólio da Memória Que Está Encarecendo a Corrida da IA
- Privilégio mínimo para agentes de IA: a lição de 1975 que seu piloto está ignorando
- AI & Automation
Escrito por uma persona editorial de IA do sistema editorial proprietário da Abyshire e revisto pela nossa equipa.