Se acabó la época en la que se podía usar recursos computacionales libremente sin pensar en el costo. La tasa de hash se vuelve más cara, y eso lo cambia todo.

Hace dos años vivíamos en un mundo diferente. Abrías una API y modelos grandes generaban código, texto, respuestas a cualquier cosa de forma continua. A nadie le importaba que enviáramos en el prompt miles de palabras de documentos, haciendo que GPT-4 hiciera cosas triviales como capitalizar texto. ¿Por qué? Porque era barato. Los inversores pagaban. Las empresas subsidiaban. Era un período de uso gratuito de recursos.

Pero el sueño terminó. La potencia se vuelve más cara en todas partes — esto no es una predicción, sino una realidad que sucede ahora mismo. La lucha por NVIDIA H100 se ha convertido en un conflicto geopolítico. El consumo de energía de los centros de datos se acerca a los límites de las redes eléctricas. Los grandes actores ya no juegan a la beneficencia.

Cuando tu negocio escala y las solicitudes diarias superan los millones, un pago insignificante por 1K tokens se convierte en una cascada de gastos. Es una máquina para sacar dinero. Es una pesadilla que despierta a los CFO de startups en medio de la noche. El token se ha convertido en una unidad monetaria real.

¿Dónde se pierden tus tokens? La gente a menudo no lo entiende. Miran las facturas mensuales que crecen, como si fuera un libro incomprensible. La pérdida ocurre en los lugares menos visibles.

Primero: hablas cortésmente con la IA. «Hola, ¿puedes ayudarme? Muchas gracias, por favor...» Para una persona, esto es normal, pero en la economía de tokens es un saqueo. Los grandes modelos no necesitan tus «por favor» y «gracias». Cada palabra es un token, cada espacio es dinero. Peor aún: instrucciones sistemáticas extremadamente largas que se repiten en cada sesión: «Sigue los diez principios...» «Si no sabes, di que no sabes...» ¿Útiles? Sí. Pero si esto se repite millones de veces, son pérdidas astronómicas.

Segundo: RAG sin control. Ideal: extraer tres oraciones relevantes. En la práctica: el usuario pregunta algo, el sistema extrae diez documentos PDF de 10,000 palabras y los envía al modelo. El desarrollador piensa: «Que busque él solo». No es pereza, es un crimen contra la potencia computacional. La información irrelevante no solo dificulta el mecanismo de atención, sino que también conduce a un consumo astronómico de tokens. Pensaste que hiciste una pregunta simple, pero en realidad hiciste que el modelo leyera media biblioteca.

Tercero: agente sin restricciones. El modo ReAct hace que la IA piense y actúe como un humano. Pero si la API se apaga o la lógica entra en un ciclo, el agente girará indefinidamente. Cada ciclo de razonamiento consume tokens costosos — que cuestan varias veces más que los de entrada. Un agente sin un mecanismo adecuado de parada de emergencia es un agujero negro que absorbe tu presupuesto.

¿Cómo ahorrar? Primero: caché semántico. Las solicitudes de los usuarios a menudo son similares. «¿Cómo restablecer la contraseña?» llega cientos de veces al día. En lugar de que GPT-4 procese cada vez, conviertes la solicitud en un vector, lo comparas con la caché. Si la similitud es alta, devuelves la respuesta desde la caché. Sin tokens. Con retraso de segundos a milisegundos. No solo es un ahorro, sino una mejora en la experiencia.

Segundo: compresión de instrucciones. Un contexto largo es un pecado. Los algoritmos basados en entropía informacional analizan qué palabras son críticas y cuáles son redundantes. Puedes comprimir un texto de 1000 tokens a 300, manteniendo la esencia. Permite que las máquinas se comuniquen en lenguaje máquina — a los humanos les parecerá torpe, pero la IA entiende. Ahorras un 70% en costos.

Tercero: enrutamiento de modelos. No envíes todo al modelo más caro. Para extracción simple de entidades o traducción, enrutalo a modelos abiertos económicos como Llama 3 8B. Para razonamiento lógico complejo, usa GPT-4o o Claude 3.5 Sonnet. Como una empresa bien coordinada: las solicitudes que puede resolver la recepción no van al director general. Quien configure esto con mayor precisión podrá reducir los costos totales de tokens a una décima parte de la competencia.

El frente avanzado ya lo ha entendido. Cuando miras los ecosistemas más modernos de agentes — especialmente los que se mueven a dispositivos móviles — ves una lucha por la máxima optimización de tokens. En un móvil no hay espacio para un contexto extenso. La capacidad de procesamiento es limitada, la memoria limitada, la energía limitada.

OpenClaw controla el uso de tokens casi hasta la obsesión. En lugar de aplicar un contexto completo de forma burda, se basa en datos estructurados. Hace que el modelo genere resultados en un esquema JSON estricto. No permite que la IA «comunique» — obliga a «rellenar formularios». Esto reduce caracteres innecesarios, ahorra tráfico.

Hermes Agent de Nous Research muestra una gestión quirúrgica del contexto. En lugar de guardar toda la historia, introduce memoria dinámica. Memoria de trabajo: los últimos 3-5 diálogos. Memoria a largo plazo: cuando el contexto se llena, un modelo ligero resume la conversación en unas pocas frases y lo guarda en una base vectorial. El diálogo antiguo se elimina, pero el conocimiento se conserva. No es basura, sino una eliminación quirúrgica. Este manejo del contexto no solo supera las limitaciones físicas, sino que a nivel macro reduce drásticamente los costos.

La tendencia principal es clara: los agentes futuros competirán no por usar más herramientas, sino por realizar tareas más complejas con un presupuesto de tokens extremadamente limitado. Bailar en cadenas. Quien baile mejor, gana.

Pero todo esto son detalles técnicos. En esencia, es un cambio en la mentalidad de toda la industria de IA. Antes veíamos los tokens como un bien de consumo. Veías un descuento y lo añadías al carrito. No importaba si realmente necesitabas un modelo grande, sino que «parecía genial». Las empresas conectaban ciegamente LLM a todo, daban cuentas a cada empleado, incluso para el menú del comedor. Cuando llegaba la factura, era un shock.

Ahora hay que pasar a una mentalidad de inversión. Cada consumo de tokens es una inversión. Con inversiones se calcula el ROI. Este token gastado, ¿qué me ha aportado? ¿Aumentó la tasa de cierre de tickets? ¿Redujo el tiempo de corrección de errores? ¿O simplemente es un «Ja-ja, qué AI tan divertida»?

Si una función que usa aprendizaje automático tradicional cuesta 10 centavos, y un gran modelo requiere 1 dólar por token, pero aumenta la conversión solo en un 2%, recorta sin dudar. Ya no aspiramos a una IA «grande y universal», sino a «pequeñas y precisas» con golpes más efectivos.

Es necesario aprender a decir «no» a los departamentos de negocio. Cuando pregunten: «¿Puede la IA leer todos los 100,000 informes y dar un resumen?» — responde: «¿Cubrirán tus ingresos con unos pocos millones de tokens de gasto?» Haz las cuentas. Ahorra. Cuenta los tokens como un dueño de tienda tradicional.

No suena a ciberpunk. Suena a campo. Pero es un paso necesario en el camino hacia la madurez de la IA.

El aumento general de la tasa de hash no es una crisis, sino una limpieza tardía. Pinchó la burbuja de subsidios ilimitados y devolvió a todos a la fría realidad. Pero eso es bueno. Ha obligado a abandonar la fe ciega en la «gran potencia — el milagro» y a restablecer el respeto por la eficiencia ingenieril.

Las empresas que sobreviven y prosperan no son las que tienen los modelos más caros. Son las que, viendo las cifras de tokens en rápida evolución, permanecen tranquilas y seguras de que ganan más de lo que gastan. Cuando la marea baja, se ve quién nada desnudo. En esta ocasión, la marea baja es la utilidad del hash rate. Solo quien aprovecha cada gota de token como oro puede tomar en sus manos una verdadera armadura.