En el vertiginoso mundo de la inteligencia artificial, donde los modelos evolucionan a una velocidad de vértigo, a menudo nos encontramos con sorpresas que van más allá de las especificaciones técnicas. Una de estas revelaciones, que ha sacudido nuestro entendimiento de la economía de la IA, surge de un análisis más profundo sobre Grok 4.7, el modelo de IA de xAI, y su consumo de tokens.

Inicialmente, la comunidad tecnológica, nosotros incluidos, interpretó que un precio por token inalterado, junto con una mejora en los benchmarks de rendimiento, implicaría una reducción en el coste efectivo por tarea completada. Una lógica aplastante, ¿verdad? Pues no tan rápido. Hemos aprendido una lección valiosa: el precio por token y el coste real por tarea son dos bestias completamente distintas, y solo una de ellas es la que el proveedor se molesta en publicar.

La gran corrección: lo que no vimos venir

Nuestra primera hipótesis se basaba en la idea de que los benchmarks del proveedor eran representativos del trabajo real. Sin embargo, la variable crítica no era la representatividad de esos benchmarks, sino la cantidad de tokens que el modelo consume para alcanzar esos mismos benchmarks. Y ese dato, amigos, no estaba disponible en nuestro análisis inicial.

El desarrollador Theo Browne, citando datos de Artificial Analysis, arrojó luz sobre este punto ciego. Según sus hallazgos, Grok 4.6 XHigh consumía aproximadamente 38.000 tokens por tarea, mientras que Grok 4.7 se dispara a unos 81.000 tokens por tarea. ¡Casi el doble!

Aunque estas cifras son aproximadas, se transmiten a través de un tercero y no distinguen entre tokens de entrada y salida (que se valoran de manera diferente), la dirección es clara: si el precio por token no cambia, pero el modelo consume muchos más tokens para realizar la misma tarea, el coste por tarea completada se incrementa significativamente. Es como si el coche nuevo que te vendieron como más eficiente, de repente, consume el doble de gasolina, aunque el litro siga al mismo precio.

La estructura del engaño (involuntario)

Este escenario nos revela una brecha estructural en el mercado de la IA: la desconexión entre lo que el proveedor publica en su página de tarifas y lo que realmente pagas en tu factura. El vendedor establece una tarifa por token, un número que ves claramente. Sin embargo, el consumo —cuántos tokens necesita el modelo para 'pensar', escribir y revisar una respuesta— es una propiedad del comportamiento del modelo que solo se hace visible cuando alguien lo mide en un conjunto de tareas reales.

La clave está en que la página de precios no tiene un denominador para el coste por tarea. La tabla de benchmarks no tiene un precio. Ninguno de los documentos que un comprador consultaría de forma natural revela el coste efectivo por tarea. Ese número es el resultado de la multiplicación de ambos.

Es importante aclarar que no estamos acusando a nadie de ocultar información deliberadamente. No hay obligación por parte de los proveedores de publicar las cifras de consumo. Pero la consecuencia estructural es real: en un mercado medido por el consumo, el denominador (el consumo de tokens) es mucho más probable que lo midan terceros y usuarios, que no lo revelen los propios vendedores.

Como dijo Theo Browne, en sus propias palabras: "Esto fue una mentira. Grok 4.6 XHigh, según Artificial Analysis, hizo alrededor de 38k tokens por tarea. Grok 4.7 hizo 81k tokens, situándolo incluso por encima de Fable 5.1."

Esto no significa que un modelo que consume más tokens sea peor. Un sistema que "razona" durante más tiempo puede llegar a mejores respuestas, y parte de este aumento en el consumo de tokens es un diseño deliberado (cadena de pensamiento extendida, auto-verificación, planificación multi-pasos) más que una ineficiencia. El punto no es que gastar más tokens sea malo, sino que gastar más tokens con una tarifa inalterada cuesta más, y un comprador que compara páginas de precios no lo verá venir.

La lección que aprendimos es que nuestras suposiciones iniciales no protegieron la variable que realmente importaba: el consumo de tokens. Y esto nos lleva a tres implicaciones cruciales para el futuro de la IA.

  • Medición independiente del consumo: Necesitamos herramientas y análisis de terceros que nos den la visión completa del consumo real de tokens por tarea.
  • Transparencia en el coste por tarea: Los proveedores deberían esforzarse por ofrecer una métrica más clara del coste por tarea, más allá del precio por token.
  • Educación del comprador: Como usuarios, debemos ser más críticos y entender que el precio publicado es solo una parte de la ecuación.

Al final, la IA es una herramienta poderosa, pero como cualquier herramienta, su coste real puede ser más complejo de lo que parece a primera vista. ¿Estás preparado para desentrañar los costes ocultos de tus modelos de IA?