Tokens IA: lo que consume un agente y cómo preverlo

Las fórmulas de IA no se cuentan en horas ni en número de correos, sino en tokens. La palabra parece abstracta. Sin embargo, describe una realidad simple, y comprenderla evita dos errores costosos: pagar un depósito demasiado grande por prudencia, o vaciar un depósito demasiado pequeño desde la segunda semana. Este curso explica qué es un token, qué lo consume, y cómo preverlo.

I¿Un token, qué es exactamente?

Tome la palabra « facturación ». La IA no la ve como un bloque: la divide en dos o tres partes, según el modelo. Los modelos se han entrenado principalmente con inglés, por lo que un texto en francés a menudo se divide en más tokens de los que tiene palabrasRetenga una regla prudente: cuente un poco más de un token por palabra en francés, a veces mucho más con nombres propios, referencias de productos o cifras.

IILeer también consume tokens

Este es el punto que casi todo el mundo olvida. Cuando un agente lee su tabla de precios, cada parte de esa tabla se cuenta. Cuando lee un correo recibido, también. Cuando escribe su respuesta, también. Leer consume tokens, no solo escribir. Algunos modelos « reflexionan » además antes de responder, y esta reflexión interna también se cuenta.

Consecuencia directa: un agente que escribe tres líneas puede consumir mucho, si tuvo que leer cincuenta páginas para escribirlas. La longitud de la respuesta casi no dice nada del costo. Lo que pesa es todo lo que el agente tiene ante los ojos en el momento de trabajar.

IIIÓrdenes de magnitud: un correo, una página, un PDF largo

Las cifras exactas varían según el modelo y el idioma. Aquí hay órdenes de magnitud prudentes, para razonar y no para facturar.

Estos valores se suman en cada pasaje: la misión, los documentos útiles, los elementos del día (correos recibidos, facturas vencidas), luego lo que escribe el agente. Si quiere una sola idea para retener: son los documentos grandes releídos en cada pasaje los que hacen la factura, mucho más que los correos enviados.

IVLos cuatro depósitos de ABYS

En ABYS, cada fórmula proporciona un depósito de tokens para el mes. Este depósito es común a todos los agentes de la cuenta: desde 19 euros, puede hacer trabajar varios agentes, y es la cantidad de tokens la que limita el trabajo, no el número de agentes. La cuenta muestra el consumo a lo largo del mes. Existe un pago anual, con descuento.

VCómo el ritmo cambia el consumo

El cálculo cabe en una línea: consumo del mes = costo de un paso × número de pasosEl costo de un pasaje depende de lo que el agente lee y escribe. El número de pasajes depende del ritmo de su fórmula. Un agente que pasa cada día hace aproximadamente treinta pasajes por mes; un agente que pasa una vez por semana hace cuatro o cinco. Un correo recibido por el agente añade un pasaje.

VIConsumir menos sin trabajar menos bien

Antes de tomar un depósito más grande, vea si el agente no está leyendo demasiado. Los mecanismos son simples y no degradan el trabajo.

Si, después de estos ajustes, el depósito sigue siendo muy justo, cambie a la fórmula siguiente. Le aconsejo que decida basándose en una o dos semanas de consumo real, no en una estimación hecha el primer día.