KI-Token: Was ein Agent verbraucht und wie man es vorhersieht

KI-Formeln werden nicht in Stunden oder Anzahl von E-Mails gezählt, sondern in Token. Das Wort wirkt abstrakt. Es beschreibt jedoch eine einfache Realität, und sein Verständnis vermeidet zwei teure Fehler: einen zu großen Speicher aus Vorsicht zu bezahlen oder einen zu kleinen Speicher bereits in der zweiten Woche zu leeren. Dieser Kurs erklärt, was ein Token ist, was ihn verbraucht, und wie man ihn vorhersieht.

IWas ist ein Token genau?

Nehmen Sie das Wort « facturation ». Die KI sieht es nicht als Ganzes: sie teilt es je nach Modell in zwei oder drei Teile auf. Die Modelle wurden hauptsächlich auf Englisch trainiert, daher wird ein französischer Text oft aufgeteilt in mehr Token als es Wörter hat. Merken Sie sich eine vorsichtige Regel: rechnen Sie etwas mehr als ein Token pro französischem Wort, manchmal deutlich mehr bei Eigennamen, Produktreferenzen oder Zahlen.

IILesen verbraucht auch Token

Das ist der Punkt, den fast jeder übersieht. Wenn ein Agent Ihr Preisblatt liest, wird jedes Stück dieses Blattes gezählt. Wenn er eine empfangene E-Mail liest, auch. Wenn er seine Antwort schreibt, auch. Lesen verbraucht Token, nicht nur Schreiben. Einige Modelle « denken » zusätzlich nach, bevor sie antworten, und dieses interne Nachdenken wird ebenfalls gezählt.

Direkte Folge: Ein Agent, der drei Zeilen schreibt, kann viel verbrauchen, wenn er fünfzig Seiten lesen musste, um sie zu schreiben. Die Länge der Antwort sagt fast nichts über die Kosten aus. Was zählt, ist alles, was der Agent bei der Arbeit vor Augen hat.

IIIGrößenordnungen: eine E-Mail, eine Seite, ein großes PDF

Die genauen Zahlen variieren je nach Modell und Sprache. Hier sind vorsichtige Größenordnungen zum Nachdenken und nicht zum Abrechnen.

Diese Werte addieren sich bei jedem Durchlauf: die Aufgabe, die nützlichen Dokumente, die Elemente des Tages (empfangene E-Mails, überfällige Rechnungen), dann das, was der Agent schreibt. Wenn Sie sich nur eine Idee merken möchten: es sind die großen Dokumente, die bei jedem Durchlauf erneut gelesen werden, die die Rechnung ausmachen, viel mehr als die gesendeten E-Mails.

IVDie vier Speicher von ABYS

Bei ABYS gibt jede Formel einen Token-Speicher für den Monat. Dieser Speicher ist gemeinsam für alle Agenten des Kontos: ab 19 Euro können Sie mehrere Agenten arbeiten lassen, und es ist die Menge der Token, die die Arbeit begrenzt, nicht die Anzahl der Agenten. Das Konto zeigt den Verbrauch im Laufe des Monats an. Eine Jahreszahlung ist mit Rabatt möglich.

VWie die Häufigkeit den Verbrauch verändert

Die Berechnung passt in eine Zeile: Verbrauch des Monats = Kosten pro Durchlauf × Anzahl der Durchläufe. Die Kosten eines Durchlaufs hängen davon ab, was der Agent liest und schreibt. Die Anzahl der Durchläufe hängt vom Rhythmus Ihrer Formel ab. Ein Agent, der täglich läuft, macht etwa dreißig Durchläufe pro Monat; ein Agent, der einmal pro Woche läuft, macht vier oder fünf. Eine vom Agenten empfangene E-Mail fügt einen Durchlauf hinzu.

VIWeniger verbrauchen, ohne schlechter zu arbeiten

Bevor Sie einen größeren Speicher nehmen, prüfen Sie, ob der Agent nicht zu viel liest. Die Hebel sind einfach und beeinträchtigen die Arbeit nicht.

Falls der Speicher nach diesen Einstellungen immer noch zu knapp ist, wechseln Sie zum nächsten Tarif. Ich empfehle Ihnen, sich auf der Grundlage eines oder zwei Wochen tatsächlicher Nutzung zu entscheiden, nicht auf einer Schätzung vom ersten Tag.