AI-tokens: wat een agent verbruikt en hoe u het kunt voorspellen

AI-formules worden niet in uren of aantal e-mails geteld, maar in tokens. Het woord lijkt abstract. Het beschrijft echter een eenvoudige werkelijkheid, en het begrijpen ervan voorkomt twee kostbare fouten: het betalen van een reservoir dat te groot is uit voorzorg, of het leegmaken van een reservoir dat te klein is in de tweede week. Deze cursus legt uit wat een token is, wat ervan verbruikt, en hoe u dit kunt voorspellen.

IWat is een token precies?

Neem het woord « facturatie ». De AI ziet het niet als één blok: zij splitst het in twee of drie stukken, afhankelijk van het model. De modellen zijn vooral getraind op Engels, dus een Franse tekst wordt vaak opgesplitst in meer jetons dan het woorden heeft. Hanteer een voorzichtige regel: reken iets meer dan één jeton per Frans woord, soms aanzienlijk meer met eigennamen, productverwijzingen of cijfers.

IILezen verbruikt ook tokens

Dit is het punt dat bijna iedereen vergeet. Wanneer een agent uw prijslijst leest, wordt elk stukje van die lijst geteld. Wanneer hij een ontvangen e-mail leest, ook. Wanneer hij zijn antwoord schrijft, ook. Lezen verbruikt tokens, niet alleen schrijvenSommige modellen « denken » eerst na voordat ze antwoorden, en deze interne reflectie telt ook mee.

Direct gevolg: een agent die drie regels schrijft, kan veel verbruiken als hij vijftig pagina's heeft moeten lezen om ze te schrijven. De lengte van het antwoord zegt bijna niets over de kosten. Wat telt, is alles wat de agent voor ogen heeft op het moment dat hij werkt.

IIIOrdegrootten: een e-mail, een pagina, een lang PDF

De exacte cijfers variëren afhankelijk van het model en de taal. Hier zijn voorzichtige ordes van grootte, voor redenering en niet voor facturatie.

Deze waarden tellen op bij elke passage: de opdracht, de nuttige documenten, de elementen van de dag (ontvangen e-mails, achterstallige facturen), vervolgens wat de agent schrijft. Als u slechts één idee wilt onthouden: het zijn de grote documenten die bij elke passage opnieuw worden gelezen die de rekening bepalen, veel meer dan de verzonden e-mails.

IVDe vier reservoirs van ABYS

Op ABYS geeft elk abonnement een jeton-reservoir voor de maand. Dit reservoir is gemeenschappelijk voor alle agents van het account: vanaf 19 euro kunt u meerdere agents aan het werk zetten, en het is de hoeveelheid jetons die het werk beperkt, niet het aantal agents. Het account geeft het verbruik gedurende de maand weer. Een jaarlijkse betaling bestaat, met korting.

VHoe het ritme het verbruik verandert

De berekening past in één regel: maandverbruik = kosten per passage × aantal passages. De kosten per passage hangen af van wat de agent leest en schrijft. Het aantal passages hangt af van het ritme van uw abonnement. Een agent die elke dag passeert, doet ongeveer dertig passages per maand; een agent die eenmaal per week passeert, doet er vier of vijf. Een e-mail die door de agent wordt ontvangen, voegt een passage toe.

VIMinder verbruiken zonder slechter te werken

Voordat u een groter reservoir neemt, kijkt u of de agent niet te veel leest. De hefbomen zijn eenvoudig en verslechteren het werk niet.

Als het reservoir na deze instellingen nog steeds te krap is, gaat u over op de volgende formule. Ik raad u aan om uw beslissing te baseren op één of twee weken werkelijk verbruik, niet op een schatting die op de eerste dag is gemaakt.