Si no sabe cuánto cuesta cada tarea de IA, no la ha valorado bien
Las empresas presupuestan la IA como si fuera software por asiento. Es un suministro que se factura por consumo, y casi nadie en el lado comprador calcula el contador.
La mayoría de las organizaciones que compran IA a gran escala todavía no pueden calcular su coste de IA por tarea. Conocen el precio por asiento de cualquier otra herramienta que tienen contratada, y conocen la tarifa de portada en la página de precios del proveedor. Lo que queda entre esas dos cifras, el coste real de producir una pieza de trabajo terminada, suele resolverse con un encogimiento de hombros y una factura mensual que nadie sabe descomponer.
Esa brecha no es un detalle de contabilidad, es un error de categoría. El software empresarial lleva treinta años vendiéndose por asiento, así que compras lo modela instintivamente por asiento: una línea en la previsión, escalada según la plantilla. Lo que realmente ha comprado es un suministro que se factura por consumo. El contador cuenta tokens, y el número de tokens que consume una tarea tiene poco que ver con cuántas personas tienen sesión abierta.
El contador mide lo que el vendedor decide medir
Un token no es una palabra ni una sílaba ni nada que un humano reconocería como unidad lingüística. Es un fragmento producido por un algoritmo de compresión reconvertido en vocabulario. La técnica que hoy sostiene la facturación del sector se adaptó de un método de compresión por pares de bytes desarrollado por Rico Sennrich, Barry Haddow y Alexandra Birch en la Universidad de Edimburgo, a partir del trabajo de compresión de Philip Gage de 1994. Se eligió porque manejaba bien las palabras poco frecuentes, no porque nadie la pensara como unidad de cuenta. Lo acabó siendo de todas formas.
El comprador firma un contrato denominado en una cantidad que es un artefacto de un entrenamiento, mientras el vendedor publica el precio por millón de esas unidades en una página de precios pública que puede cambiar. Las tarifas son visibles de una manera que el volumen nunca lo es. Usted no controla ni en cuántos tokens se convierte su instrucción ni cuántos decide emitir el sistema como respuesta, y la factura es el producto de ambos.
¿Cómo se calcula el coste de la IA por tarea?
Empiece por el mecanismo: el modelo no tiene memoria entre peticiones. La continuidad es una ilusión que se produce reenviando toda la conversación completa, más las instrucciones de sistema ocultas y las definiciones de herramientas, en cada turno. La documentación del proveedor es explícita al respecto: las salidas de un turno anterior se convierten en entradas de los turnos siguientes.
La aritmética sale sola, sin necesidad de ningún benchmark. Si cada turno añade aproximadamente k tokens y cada turno acumulado se vuelve a procesar entero, el contexto total procesado a lo largo de n turnos es k(1+2+…+n), es decir kn(n+1)/2, cuadrático respecto al número de turnos. Por ejemplo, si una sesión dura diez turnos y cada uno añade unos mil tokens, se le factura por unos 55.000 tokens de entrada en lugar de los 10.000 que predice el modelo mental lineal, porque el décimo intercambio vuelve a pagar los nueve anteriores. Un asistente de chat responde una vez y se detiene; un agente itera, y esa iteración es la curva de coste.
Sume ahora el gasto fijo. Las instrucciones de sistema y los esquemas de herramientas viajan en cada llamada, así que las tareas cortas arrastran una proporción de gasto general pésima: puede acabar pagando más por redescribir las herramientas que por el trabajo en sí. Después divida por la tasa de éxito. Si siete intentos de cada diez producen un resultado utilizable, el coste real por tarea completada es el gasto total dividido entre 0,7, un 43 % más que la cifra ingenua.
El contador corre con cada intento mientras el valor solo se genera con los éxitos, y cualquier caso de negocio de IA que dé por hecho en silencio que esas dos cifras son la misma está inflando su margen.
¿Por qué la misma tarea cuesta más en unos idiomas que en otros?
Porque el vocabulario se aprendió, sobre todo, a partir de texto web mayoritariamente en inglés, y comprime mucho mejor lo que vio con frecuencia que lo que vio poco. Un trabajo independiente presentado en NeurIPS por Petrov y sus coautores, comparando textos paralelos en varios idiomas, documenta diferencias sustanciales en la longitud tokenizada según el idioma, con una magnitud que depende del tokenizador y del par de lenguas concreto.
Eso produce una estructura de márgenes que nadie eligió. La misma interacción de atención al cliente, prestada con el mismo estándar, le cuesta a la empresa sistemáticamente más en unos mercados que en otros, y esa diferencia es invisible en cualquier panel que reporte coste por usuario. Los productos multilingües tienen un problema de economía unitaria por mercado que nunca llegó al modelo de precios, y las cargas de trabajo con mucho código heredan la misma asimetría desde el otro extremo.
El techo que falla en silencio
La ventana de contexto es un límite duro, y sobrepasarla significa que algo se descarta. El síntoma, respuestas que se degradan a medida que avanza una sesión larga, se parece exactamente a un fallo de fiabilidad, así que muchos equipos escalan a un modelo más grande o a otro proveedor cuando lo que tenían era un exceso de capacidad mal aprovisionado. Diagnosticarlo exige conocer los límites publicados de lo que se ha comprado, y publicados significa declarados por el proveedor y fechados, al modo del artículo de mayo de 2020 de OpenAI que identifica a GPT-3 como un modelo autorregresivo de 175.000 millones de parámetros. Cualquier cosa que provenga de un agregador de blogs es folclore. Esto es de las cosas que conviene resolver antes de comprometerse con un desarrollo, no durante la revisión del incidente.
Qué se rompe cuando se acaben los descuentos
La objeción obvia: el precio de los tokens ha bajado varias veces, así que ¿para qué modelar nada de esto? Porque el precio unitario y el volumen consumido se mueven en direcciones opuestas. Las tarifas por token caen mientras los patrones de agentes disparan el consumo por tarea en un orden de magnitud, y el segundo efecto está ganando ahora mismo al primero. La bajada de precios es un argumento a favor de conocer su curva, no en contra. La curva le dice qué cargas de trabajo pasan de inviables a viables según el precio, y cuáles solo eran rentables porque alguien más absorbía la diferencia.
Si las tarifas actuales están por encima o por debajo del coste de prestar el servicio es algo que el comprador no puede verificar desde fuera. La estructura sí es visible: el vendedor define la unidad, fija la tarifa y revisa ambas cosas, mientras el comprador no tiene forma independiente de auditar la cantidad facturada. Es una asimetría considerable para aceptarla en una partida de gasto operativo, y la respuesta sensata es de ingeniería, no de queja: mida tokens por tarea completada y por carga de trabajo, instrumente la tasa de fallos, limite la duración de las conversaciones de forma deliberada y diseñe bucles de agentes que no arrastren todo su historial detrás. Esas son decisiones de arquitectura sobre cómo se construyen los agentes, y pertenecen a la estrategia técnica, no a la revisión financiera.
Una empresa que sabe cotizar su gasto de IA por asiento, por llamada o por mes ha medido algo. Lo que no ha medido es lo que realmente está comprando.
Preguntas frecuentes
¿Qué debería medir en lugar de tokens por llamada a la API?
Tokens por tarea completada, desglosados por carga de trabajo, con la tasa de fallos incluida. Una cifra por llamada oculta tanto el contexto reenviado de las sesiones de varios turnos como el coste de los intentos que no produjeron nada utilizable, y ahí es exactamente donde vive el sobrecoste.
¿La caché o acortar las instrucciones arregla el coste supralineal de las sesiones largas de agentes?
Reduce la constante, no la forma de la curva. Recortar las instrucciones de sistema o reutilizar contexto en caché baja el coste por turno, pero mientras el historial acumulado se siga reenviando en cada turno, el contexto total procesado seguirá creciendo con el cuadrado del número de turnos. Limitar la duración de la sesión y resumir el historial es lo que cambia la curva en sí.
¿Por qué sube el gasto en IA sin que aumenten los usuarios?
Porque el gasto sigue al trabajo realizado, no a los asientos ocupados. Un solo usuario ejecutando tareas más largas y con más llamadas a herramientas puede consumir mucho más que varios usuarios haciendo preguntas puntuales, así que las previsiones basadas en plantilla se desajustan casi de inmediato en cuanto los agentes sustituyen al chat.
Relacionado
- El oligopolio de la memoria que está inflando el coste real de la IA
- Mínimo privilegio para agentes de IA: la norma de 1975 que los pilotos actuales están ignorando
- El acantilado de los subsidios de la IA: los inversores de su proveedor han estado pagando su factura
- AI & Automation
Escrito por una persona editorial de IA del sistema editorial propietario de Abyshire y revisado por nuestro equipo.