EN FR ES PT DE AR 中文

Se Você Não Sabe Quanto Custa Cada Tarefa de IA, Você Não Precificou Nada

Empresas orçam IA como se fosse software por usuário. É um serviço medido por consumo, e quase ninguém do lado comprador calcula o medidor.

A maioria das organizações que compra IA em escala ainda não sabe calcular o custo por tarefa de IA. Elas conhecem o preço por usuário de cada outra ferramenta que possuem, e conhecem a tarifa de tabela na página de preços do fornecedor. O que fica entre esses dois números, o custo de produzir um trabalho pronto, costuma ser um dar de ombros e uma fatura mensal que ninguém consegue decompor.

Essa lacuna não é um detalhe do financeiro, é um erro de categoria. Software corporativo é vendido por usuário há trinta anos, então o setor de compras naturalmente modela por usuário: uma linha na previsão, escalada pelo número de funcionários. O que você comprou, na verdade, foi um serviço medido por consumo. O medidor conta tokens, e a quantidade de tokens que uma tarefa consome quase não tem relação com quantas pessoas estão logadas.

O medidor mede o que o vendedor define

Um token não é uma palavra nem uma sílaba nem nada que um humano reconheceria como unidade linguística. É um fragmento produzido por um algoritmo de compressão reaproveitado como vocabulário. A técnica que hoje sustenta o faturamento do setor foi adaptada de um método de compressão por codificação de pares de bytes (byte-pair encoding) por Rico Sennrich, Barry Haddow e Alexandra Birch, da Universidade de Edimburgo, a partir do trabalho de compressão de Philip Gage de 1994. Foi escolhida porque lidava bem com palavras raras, ninguém a escolheu para ser uma unidade de conta. Mas se tornou uma.

O comprador assina um contrato denominado numa grandeza que é artefato de uma rodada de treinamento, enquanto o vendedor publica o preço por milhão delas numa página de preços pública e ao vivo, que pode mudar. As tarifas são visíveis de um jeito que o volume nunca é. Você não controla quantos tokens seu prompt vira nem quantos o sistema decide emitir na resposta, e a fatura é o produto dos dois.

Como calcular o custo por tarefa de IA?

Comece pelo mecanismo: o modelo não tem memória entre requisições. A continuidade é uma ilusão produzida pelo reenvio da conversa inteira, mais instruções de sistema ocultas e definições de ferramentas, a cada turno. A documentação dos fornecedores é explícita: as saídas de um turno anterior viram entradas nos turnos seguintes.

A conta segue sem precisar de nenhum benchmark. Se cada turno adiciona cerca de k tokens e cada turno acumulado é processado de novo, o contexto total processado ao longo de n turnos é k(1+2+…+n), ou seja, kn(n+1)/2, quadrático em relação ao número de turnos. Por exemplo, numa sessão de dez turnos em que cada um adiciona cerca de mil tokens, a cobrança gira em torno de 55.000 tokens de entrada, e não os 10.000 que um modelo mental linear preveria, porque a décima troca paga de novo por todas as nove anteriores. Um assistente de chat responde uma vez e para; um agente entra em loop, e o loop é a curva de custo.

Agora some o custo fixo. Instruções de sistema e esquemas de ferramentas viajam junto em cada chamada, então tarefas curtas carregam uma proporção de overhead péssima: você pode gastar a maior parte de uma requisição redescrevendo as ferramentas em vez de fazer o trabalho. Depois divida pela taxa de sucesso. Por exemplo, se sete em cada dez tentativas produzem um resultado utilizável, o custo real por tarefa concluída é o gasto total dividido por 0,7, cerca de 43% acima do número ingênuo.

O medidor roda sobre tentativas enquanto o valor só se acumula nos sucessos, e qualquer business case de IA que presuma silenciosamente que esses dois números são iguais está inflando sua margem.

Por que a mesma tarefa custa mais em alguns idiomas?

Porque o vocabulário foi aprendido, majoritariamente a partir de texto da web em inglês, e comprime muito melhor o que viu com frequência do que o que viu raramente. Um trabalho independente apresentado na NeurIPS por Petrov e colegas, comparando textos paralelos multilíngues, documenta diferenças substanciais no comprimento tokenizado conforme o idioma, com a magnitude dependendo do tokenizador e do par de idiomas.

O resultado é uma estrutura de margem que ninguém escolheu. A mesma interação de atendimento ao cliente, entregue com o mesmo padrão de qualidade, custa sistematicamente mais para a empresa em alguns mercados do que em outros, e essa diferença é invisível em qualquer painel que reporte custo por usuário. Produtos multilíngues têm um problema de unit economics por mercado que nunca entrou no modelo de precificação, e cargas de trabalho pesadas em código herdam a mesma assimetria pelo lado oposto.

O teto que falha em silêncio

A janela de contexto é um limite rígido, e ultrapassá-la significa que algo é descartado. O sintoma, respostas degradadas no fundo de uma sessão longa, parece exatamente instabilidade, então os times escalam para um modelo maior ou trocam de fornecedor quando, na verdade, tinham um estouro de capacidade provisionado errado. Diagnosticar isso exige conhecer os limites publicados do que você comprou, e publicado significa declarado pelo fornecedor e datado, nos moldes do artigo da OpenAI de maio de 2020 que identifica o GPT-3 como um modelo autoregressivo de 175 bilhões de parâmetros. Qualquer coisa vinda de um agregador de blog é folclore. É o tipo de coisa que vale a pena resolver antes de fechar um projeto, não durante o post-mortem do incidente.

O que quebra quando os descontos acabarem

A objeção óbvia: o preço dos tokens caiu repetidas vezes, então por que se preocupar com isso? Porque o preço unitário e o volume consumido estão andando em direções opostas. As tarifas por token caem enquanto os padrões de uso agentic empurram o consumo por tarefa para cima numa ordem de grandeza, e o segundo efeito está superando o primeiro no momento. Preços em queda são um argumento a favor de conhecer sua curva, não contra. A curva mostra quais cargas de trabalho viram de inviáveis para viáveis em qual preço, e quais só eram sustentáveis porque alguém mais estava absorvendo a diferença.

Se as tarifas de hoje estão acima ou abaixo do custo de servi-las não é algo que o comprador consiga verificar de fora. A estrutura já é visível o bastante: o vendedor define a unidade, fixa a tarifa e revisa as duas, enquanto o comprador não tem como auditar de forma independente a quantidade cobrada. É um nível incomum de assimetria para aceitar numa linha operacional do orçamento, e a resposta sensata é engenharia, não reclamação: medir tokens por tarefa concluída em cada carga de trabalho, instrumentar a taxa de falha, limitar deliberadamente o comprimento das conversas e desenhar loops de agentes que não arrastem todo o histórico atrás de si. Essas são decisões de arquitetura sobre como os agentes são construídos, e pertencem à estratégia técnica, não à revisão financeira.

Uma empresa que sabe cotar sua IA por usuário, por chamada ou por mês mediu alguma coisa. Só não mediu a coisa que está comprando.

Perguntas frequentes

O que devo medir em vez de tokens por chamada de API?

Tokens por tarefa concluída, detalhados por carga de trabalho, com a taxa de falha atrelada. Um número por chamada esconde tanto o contexto reenviado em sessões de múltiplos turnos quanto o custo das tentativas que não produziram nada utilizável, e é exatamente aí que mora o gasto excedente.

Cache ou prompts mais curtos resolvem o custo superlinear de sessões longas de agentes?

Reduzem a constante, não o formato da curva. Enxugar as instruções de sistema ou reaproveitar contexto em cache baixa o custo por turno, mas, enquanto o histórico acumulado continuar sendo reenviado a cada turno, o contexto total processado ainda cresce com o quadrado do número de turnos. Limitar o tamanho da sessão e resumir o histórico é o que muda a curva em si.

Por que nosso gasto com IA sobe sem que novos usuários sejam adicionados?

Porque o gasto acompanha o trabalho realizado, não os assentos ocupados. Um único usuário rodando tarefas mais longas e mais agentic, com mais chamadas de ferramentas, pode consumir muito mais do que vários usuários fazendo perguntas pontuais, então previsões baseadas em número de usuários se desalinham quase imediatamente assim que agentes substituem o chat.

Relacionado

Escrito por uma persona editorial de IA do sistema editorial proprietário da Abyshire e revisto pela nossa equipa.