Serbatoio di token: quanti ne consuma il vostro agente IA?
Avete un serbatoio di token, ma non sapete quanto ogni agente ne preleva. Questo articolo vi fornisce ordini di grandezza concreti e un metodo per anticipare i vostri bisogni prima di raggiungere il limite.
- Il consumo dipende da ciò che l'agente legge e da ciò che scrive: più documenti, più token
- Con 100 000 token, contate circa 12 solleciti per insoluti o 6 preventivi semplici al mese
- Un'email di avviso arriva a quattro quinti del serbatoio: è il momento di decidere o di cambiare formula
Il serbatoio di token è la risorsa comune a tutti i vostri agenti. Ogni formula di abbonamento ne fornisce una quantità mensile: 100 000 token per la formula a 19 euro escluse le tasse, 700 000 per quella a 99 euro escluse le tasse, e così via. Quando il serbatoio si svuota, gli agenti si fermano. Riprendono il primo del mese successivo, o immediatamente se passate alla formula superiore.
Il problema è che nessuno sa veramente quanti token consuma un agente per azione. Si vede il contatore diminuire, ma non si capisce perché un preventivo costa più di un sollecito. Questo articolo fornisce cifre concrete, spiega cosa fa variare il consumo e vi aiuta a prevedere i vostri bisogni.
ICos'è un token e perché è importante?
Un token è l'unità di misura del testo elaborato da un agente IA.
Un token corrisponde a circa quattro caratteri in italiano, cioè approssimativamente i tre quarti di una parola. Un testo di 500 parole rappresenta circa 650 token. Ogni azione di un agente consuma token per leggere le informazioni, riflettere e produrre una risposta.
Il serbatoio di token funziona come un abbonamento telefonico. Disponete di una dotazione mensile, condivisa tra tutti i vostri agenti. Un agente che redige un'email di tre righe consuma meno di un agente che analizza un documento di dieci pagine prima di rispondere. Il consumo dipende da ciò che l'agente legge e da ciò che scrive.
IIQuanti token per tipo di azione?
Ecco degli ordini di grandezza osservati su compiti comuni. Questi numeri variano in base alla complessità del contesto e alla lunghezza dei documenti forniti, ma danno una base per i vostri calcoli.
- 1Sollecito di pagamento
Circa 8 000 token. L'agente legge la fattura, verifica la cronologia del cliente, redige un'email breve e personalizzata. Pochi documenti, messaggio breve.
- 2Preventivo semplice
Circa 15 000 token. L'agente analizza la richiesta ricevuta, consulta la vostra griglia tariffaria, calcola e redige un preventivo strutturato con condizioni.
- 3Email di prospecting Milo
Circa 25 000 token. Milo legge il sito dell'azienda target, analizza la sua attività, personalizza il messaggio in base a ciò che ha compreso. Più letture, più consumo.
- 4Risposta a una domanda semplice
Circa 3 000 token. Un agente che risponde a una domanda fattuale senza consultare un documento voluminoso consuma poco.
- 5Analisi di un documento lungo
Circa 40 000 token o più. Un agente che deve leggere un contratto di venti pagine prima di redigere una sintesi consuma molto di più.
IIIPerché alcuni agenti consumano più di altri?
Il consumo dipende da tre fattori. Il primo è la quantità di testo in ingresso: un agente che deve leggere il vostro catalogo prodotti di cinquanta pagine a ogni azione consuma più di un agente che ha bisogno solo di una scheda cliente. Il secondo fattore è la complessità del compito: redigere un'email personalizzata richiede più riflessione che inviare una conferma standard.
Il terzo fattore è la lunghezza della risposta prodotta. Un preventivo dettagliato di due pagine consuma più di una ricevuta di tre righe. Se constatate che un agente consuma molto, verificate prima i documenti che consulta. Forse non ha bisogno di rileggere tutto ogni volta.
IVCome monitorare il vostro contatore di token?
ABYS invia un'email di avviso quando raggiungete i quattro quinti della vostra riserva mensile. È il segnale per verificare dove siete e decidere se dovete rallentare alcuni agenti o passare alla formula superiore. Il contatore è visibile nel vostro spazio, con il dettaglio per agente.
Prendete l'abitudine di consultare questo contatore una volta a settimana all'inizio. Capirete rapidamente quali agenti consumano di più e perché. Alcuni utenti scoprono che un solo agente rappresenta i tre quarti del loro consumo, semplicemente perché lavora con documenti troppo pesanti.
Spuntate ciò che è vero per voi: l'elenco ricorda le vostre risposte su questo dispositivo.
VCon 100 000 token, quante azioni possibili?
La formula a 19 euro escluse le tasse al mese offre 100 000 token. Ecco cosa rappresenta in pratica, in base al tipo di compito. Queste stime presuppongono documenti di dimensioni ragionevoli e risposte di lunghezza standard.
Combinando più tipi di azioni, un artigiano potrebbe ad esempio gestire 6 solleciti di morosità e 3 preventivi al mese con la formula di base. Uno studio di consulenza che fa molta analisi documentaria avrà bisogno di una formula superiore. La chiave è conoscere i vostri usi reali.
VICosa fare quando ci si avvicina al limite?
Quando arriva l'email di avviso, avete diverse opzioni. La prima è non fare nulla: i vostri agenti si fermeranno quando il serbatoio sarà vuoto e riprenderanno il primo del mese. È accettabile se potete aspettare qualche giorno.
La seconda opzione è di mettere in pausa gli agenti meno urgenti per preservare token per i compiti prioritari. Un agente in pausa non consuma nulla. La terza opzione è passare alla formula superiore, che ricarica immediatamente il vostro serbatoio e aumenta la vostra capacità mensile.
VIICome ridurre il consumo di un agente?
Se un agente consuma troppo, cominciate ad alleggerire i documenti che consulta. Un catalogo di cento pagine può spesso essere sostituito da una scheda sintetica di dieci pagine. L'agente lavorerà più velocemente e consumerà meno. Verificate anche se l'agente ha davvero bisogno di rileggere tutto a ogni azione.
Potete anche semplificare la missione dell'agente. Un agente che deve redigere un'email personalizzata E verificare tre database consuma più di un agente che fa una sola cosa bene. A volte, creare due agenti specializzati costa meno di un solo agente polivalente.
VIIIPrevedere il budget token su diversi mesi
Dopo uno o due mesi di utilizzo, conoscerete il vostro consumo reale. Annotate quanti token ogni agente utilizza in media a settimana. Moltiplicate per quattro per avere una stima mensile. Se siete regolarmente vicini al limite, la formula superiore vi eviterà gli interruzioni.
Un'azienda che utilizza un agente per i preventivi e un altro per i solleciti può prevedere circa 20 000 token a settimana, ovvero 80 000 al mese. La formula a 19 euro escluse le tasse è sufficiente, con un margine di sicurezza. Uno studio che aggiunge un agente di analisi documentale dovrà probabilmente passare a 99 euro escluse le tasse al mese.
?Le domande che ci vengono poste
Il serbatoio di token è condiviso tra tutti i miei agenti?
Sì, il serbatoio è comune a tutti gli agenti del vostro account. Ogni azione di ogni agente attinge dalla stessa dotazione mensile. Per questo motivo, monitorare il consumo di ogni agente permette di distribuire meglio le vostre risorse.
Posso acquistare token supplementari durante il mese?
Potete passare alla formula superiore in qualsiasi momento. Questo ricarica immediatamente il vostro serbatoio e aumenta la vostra capacità mensile. Il cambio ha effetto immediato.
Come sapere quale agente consuma di più?
Il vostro spazio mostra il dettaglio del consumo per agente. Consultate regolarmente per identificare gli agenti più esigenti e adattare i loro documenti o la loro missione se necessario.
Un agente in pausa consuma token?
No, un agente in pausa non consuma nulla. Mettere in pausa un agente poco utilizzato permette di preservare token per gli agenti prioritari, soprattutto a fine mese.
Consultate le formule per trovare il serbatoio adatto ai vostri bisogni.
Vedi le formuleDa leggere poi
Cosa succede quando il serbatoio di token è vuoto?
Il vostro agente IA lavora, poi un giorno si ferma e vi avverte che il serbatoio è vuoto. Questo articolo vi spiega esattamente…
Leggi la lezioneQuale formula di abbonamento scegliere per il vostro agente IA?
Esitate tra la formula a 19 euro e quella a 99 euro. Alla fine di questo articolo, saprete quale corrisponde alla vostra att…
Leggi la lezioneToken IA: cosa consuma un agente e come prevederlo
I token sono l'unità di lavoro dell'IA: tutto ciò che un agente legge e tutto ciò che scrive si conta in token. Dopo questo corso, v…
Leggi la lezione