Tokens de IA: o que um agente consome e como prever

Os planos de IA não se contam em horas nem em número de e-mails, mas em tokens. A palavra parece abstrata. Descreve, porém, uma realidade simples, e compreendê-la evita dois erros custosos: pagar um reservatório muito grande por precaução, ou esvaziar um reservatório muito pequeno já na segunda semana. Este curso explica o que é um token, o que consome, e como prever.

IUm token, o que é exatamente?

Pegue a palavra "faturação". A IA não a vê de um bloco: a divide em dois ou três pedaços, conforme o modelo. Os modelos foram treinados principalmente em inglês, de modo que um texto em português frequentemente se divide em mais jetons do que tem palavras. Retenha uma regra prudente: conte um pouco mais de um jeton por palavra em português, às vezes bem mais com nomes próprios, referências de produtos ou números.

IILer também consome tokens

Este é o ponto que quase todos esquecem. Quando um agente lê sua tabela de preços, cada parte dessa tabela é contada. Quando ele lê um e-mail recebido, também. Quando ele escreve sua resposta, também. Ler consome jetons, não apenas escrever. Alguns modelos "refletem" além disso antes de responder, e essa reflexão interna também é contada.

Consequência direta: um agente que escreve três linhas pode consumir muito, se teve de ler cinquenta páginas para escrevê-las. O comprimento da resposta diz quase nada do custo. O que pesa é tudo o que o agente tem diante dos olhos no momento de trabalhar.

IIIOrdens de grandeza: um e-mail, uma página, um longo PDF

Os números exatos variam de acordo com o modelo e o idioma. Aqui estão ordens de grandeza prudentes, para raciocinar e não para faturar.

Esses valores se somam a cada execução: a missão, os documentos úteis, os elementos do dia (e-mails recebidos, faturas atrasadas), depois o que o agente escreve. Se você quer uma única ideia para reter: são os documentos grandes relidos a cada execução que fazem a fatura, muito mais do que os e-mails enviados.

IVOs quatro reservatórios da ABYS

Na ABYS, cada plano oferece um reservatório de tokens para o mês. Este reservatório é compartilhado por todos os agentes da conta: a partir de 19 euros, você pode colocar vários agentes para trabalhar, e é a quantidade de tokens que limita o trabalho, não o número de agentes. A conta exibe o consumo ao longo do mês. Existe um pagamento anual, com desconto.

VComo o ritmo muda o consumo

O cálculo cabe em uma linha: consumo do mês = custo de uma execução × número de execuções. O custo de um trecho depende do que o agente lê e escreve. O número de trechos depende do ritmo de sua fórmula. Um agente que passa todos os dias faz aproximadamente trinta trechos por mês; um agente que passa uma vez por semana faz quatro ou cinco. Um e-mail recebido pelo agente adiciona um trecho.

VIConsumir menos sem trabalhar menos bem

Antes de contratar um reservatório maior, verifique se o agente não está lendo demais. As alavancas são simples e não degradam o trabalho.

Se, após esses ajustes, o reservatório continuar muito justo, passe para a fórmula seguinte. Recomendo decidir com base em uma ou duas semanas de consumo real, não em uma estimativa feita no primeiro dia.