Token-Pool: Wie viel verbraucht Ihr KI-Agent?
Sie haben einen Token-Pool, wissen aber nicht, wie viel jeder Agent daraus entnimmt. Dieser Artikel gibt Ihnen konkrete Größenordnungen und eine Methode, um Ihren Bedarf zu antizipieren, bevor Sie die Grenze erreichen.
- Der Verbrauch hängt davon ab, was der Agent liest und schreibt: mehr Dokumente, mehr Token
- Mit 100.000 Token rechnen Sie mit etwa 12 Mahnungen für unbezahlte Rechnungen oder 6 einfachen Angeboten pro Monat
- Eine Benachrichtigungsmail kommt bei vier Fünfteln des Pools an: Das ist der Moment, um zu entscheiden oder den Plan zu wechseln
Der Token-Speicher ist die gemeinsame Ressource aller Ihrer Agenten. Jeder Abonnementtarif stellt eine monatliche Menge bereit: 100.000 Token für den 19-Euro-Tarif (exkl. MwSt.), 700.000 für den 99-Euro-Tarif (exkl. MwSt.) und so weiter. Wenn der Speicher leer wird, stoppen die Agenten. Sie werden am ersten des nächsten Monats fortgesetzt oder sofort, wenn Sie auf den höheren Tarif wechseln.
Das Problem ist, dass niemand wirklich weiß, wie viel ein Agent pro Aktion verbraucht. Man sieht den Zähler sinken, aber man versteht nicht, warum ein Angebot teurer ist als ein Mahnschreiben. Dieser Artikel nennt konkrete Zahlen, erklärt, was den Verbrauch beeinflusst, und hilft Ihnen, Ihre Anforderungen vorherzusehen.
IWas ist ein Token und warum ist das wichtig?
Ein Token ist die Maßeinheit für den von einem KI-Agenten verarbeiteten Text.
Ein Token entspricht etwa vier Zeichen im Französischen, also etwa drei Vierteln eines Wortes. Ein Text von 500 Wörtern entspricht etwa 650 Token. Jede Aktion eines Agenten verbraucht Token zum Lesen von Informationen, Nachdenken und Erstellen einer Antwort.
Der Token-Speicher funktioniert wie ein Mobilfunkvertrag. Sie haben ein monatliches Budget, das zwischen allen Ihren Agenten geteilt wird. Ein Agent, der eine dreizeilige E-Mail verfasst, verbraucht weniger als ein Agent, der ein zehn Seiten langes Dokument analysiert, bevor er antwortet. Der Verbrauch hängt davon ab, was der Agent liest und was er schreibt.
IIWie viele Token pro Aufgabentyp?
Hier sind Größenordnungen, die bei häufigen Aufgaben beobachtet wurden. Diese Zahlen variieren je nach Komplexität des Kontexts und Länge der bereitgestellten Dokumente, geben aber eine Grundlage für Ihre Berechnungen.
- 1Mahnschreiben
Etwa 8.000 Token. Der Agent liest die Rechnung, überprüft den Kundenverlauf, schreibt eine kurze und personalisierte E-Mail. Wenige Dokumente, kurze Nachricht.
- 2Einfaches Angebot
Etwa 15 000 Token. Der Agent analysiert die eingegangene Anfrage, konsultiert Ihre Preisliste, berechnet und verfasst ein strukturiertes Angebot mit Bedingungen.
- 3Prospektions-E-Mail Milo
Etwa 25.000 Token. Milo liest die Website des Zielunternehmens, analysiert seine Aktivität, personalisiert die Nachricht basierend auf seinem Verständnis. Mehr Lesen, mehr Verbrauch.
- 4Antwort auf eine einfache Frage
Etwa 3 000 Token. Ein Agent, der eine Faktenfrage beantwortet, ohne umfangreiche Dokumente zu konsultieren, verbraucht wenig.
- 5Analyse eines langen Dokuments
Etwa 40.000 Token oder mehr. Ein Agent, der einen zwanzig Seiten langen Vertrag lesen muss, bevor er eine Zusammenfassung schreibt, verbraucht viel mehr.
IIIWarum verbrauchen einige Agenten mehr als andere?
Der Verbrauch hängt von drei Faktoren ab. Der erste ist die Menge des Eingabetexts: Ein Agent, der bei jeder Aktion Ihren fünfzigseitigen Produktkatalog lesen muss, verbraucht mehr als ein Agent, der nur eine Kundenkarte benötigt. Der zweite Faktor ist die Komplexität der Aufgabe: Eine personalisierte E-Mail zu verfassen erfordert mehr Überlegung als das Versenden einer Standardbestätigung.
Der dritte Faktor ist die Länge der erzeugten Antwort. Ein detailliertes Angebot von zwei Seiten verbraucht mehr als eine dreizeilige Empfangsbestätigung. Wenn Sie feststellen, dass ein Agent viel verbraucht, überprüfen Sie zunächst die Dokumente, die er konsultiert. Vielleicht muss er nicht alles jedes Mal erneut lesen.
IVWie überwache ich meinen Token-Zähler?
ABYS sendet eine Benachrichtigungs-E-Mail, wenn Sie erreichen vier Fünftel Ihres monatlichen Speichers. Das ist das Signal, um zu überprüfen, wo Sie stehen und zu entscheiden, ob Sie bestimmte Agenten verlangsamen oder auf den höheren Tarif wechseln müssen. Der Zähler ist in Ihrem Bereich sichtbar, mit Details pro Agent.
Gewöhnen Sie sich daran, diesen Zähler anfangs einmal pro Woche zu überprüfen. Sie werden schnell verstehen, welche Agenten am meisten verbrauchen und warum. Einige Nutzer stellen fest, dass ein einzelner Agent drei Viertel ihres Verbrauchs ausmacht, einfach weil er mit zu großen Dokumenten arbeitet.
Kreuzen Sie an, was bei Ihnen zutrifft: Die Liste merkt sich Ihre Antworten auf diesem Gerät.
VMit 100.000 Token, wie viele Aktionen sind möglich?
Der Plan zu 19 Euro exkl. MwSt. pro Monat bietet 100 000 Token. Hier ist, was dies je nach Aufgabentyp praktisch bedeutet. Diese Schätzungen gehen von angemessen großen Dokumenten und standardlangen Antworten aus.
Durch die Kombination mehrerer Aufgabentypen könnte ein Handwerker beispielsweise 6 Mahnschreiben und 3 Angebote pro Monat mit dem Basisplan bearbeiten. Eine Beratungskanzlei, die viel Dokumentenanalyse durchführt, benötigt wahrscheinlich einen höheren Plan. Der Schlüssel ist, Ihre tatsächliche Nutzung zu kennen.
VIWas tun, wenn ich mich dem Limit nähere?
Wenn die Benachrichtigungsmitteilung ankommt, haben Sie mehrere Optionen. Die erste ist, nichts zu tun: Ihre Agenten stoppen, wenn der Speicher leer ist, und werden am ersten des Monats fortgesetzt. Das ist akzeptabel, wenn Sie ein paar Tage warten können.
Die zweite Option ist pausieren die weniger dringenden Agenten, um Token für prioritäre Aufgaben zu sparen. Ein Agent in Pause verbraucht nichts. Die dritte Option ist, auf den höheren Tarif zu wechseln, was Ihren Speicher sofort auflädt und Ihre monatliche Kapazität erhöht.
VIIWie reduziere ich den Verbrauch eines Agenten?
Wenn ein Agent zu viel verbraucht, beginnen Sie damit, die Dokumente, die er konsultiert, zu vereinfachen. Ein hundert Seiten langer Katalog kann oft durch ein zehn Seiten langes Zusammenfassungsblatt ersetzt werden. Der Agent arbeitet schneller und verbraucht weniger. Überprüfen Sie auch, ob der Agent wirklich alles bei jeder Aktion erneut lesen muss.
Sie können auch die Aufgabe des Agenten vereinfachen. Ein Agent, der eine personalisierte E-Mail schreiben UND drei Datenbanken überprüfen muss, verbraucht mehr als ein Agent, der eine Sache gut macht. Manchmal ist es günstiger, zwei spezialisierte Agenten zu erstellen als einen vielseitigen Agent.
VIIIToken-Budget über mehrere Monate planen
Nach ein oder zwei Monaten Nutzung kennen Sie Ihren tatsächlichen Verbrauch. Notieren Sie, wie viele Token jeder Agent durchschnittlich pro Woche verbraucht. Multiplizieren Sie mit vier, um eine monatliche Schätzung zu erhalten. Wenn Sie regelmäßig nahe an der Grenze sind, wird der höhere Tarif Unterbrechungen vermeiden.
Ein Geschäft, das einen Agenten für Angebote und einen anderen für Mahnschreiben nutzt, kann etwa 20 000 Token pro Woche einplanen, also 80 000 pro Monat. Der Plan zu 19 Euro exkl. MwSt. reicht aus, mit einer Sicherheitsmarge. Eine Kanzlei, die einen Dokumentenanalyse-Agenten hinzufügt, muss wahrscheinlich auf 99 Euro exkl. MwSt. pro Monat wechseln.
?Die Fragen, die uns gestellt werden
Wird der Token-Speicher zwischen allen meinen Agenten geteilt?
Ja, der Speicher ist gemeinsam für alle Agenten in Ihrem Konto. Jede Aktion jedes Agenten zieht aus der gleichen monatlichen Enveloppe. Deshalb ermöglicht die Überwachung des Verbrauchs jedes Agenten eine bessere Ressourcenverteilung.
Kann ich während des Monats zusätzliche Token kaufen?
Sie können jederzeit zu einem höheren Plan wechseln. Dies lädt Ihren Speicher sofort auf und erhöht Ihre monatliche Kapazität. Die Änderung tritt sofort in Kraft.
Wie erkenne ich, welcher Agent am meisten verbraucht?
Ihr Bereich zeigt die Verbrauchsdetails pro Agent an. Überprüfen Sie ihn regelmäßig, um ressourcenintensive Agenten zu identifizieren und deren Dokumente oder Aufgaben bei Bedarf anzupassen.
Verbraucht ein Agent im Pausenmodus Token?
Nein, ein Agent in Pause verbraucht nichts. Das Pausieren eines wenig genutzten Agenten ermöglicht es, Token für prioritäre Agenten zu sparen, besonders am Ende des Monats.
Konsultieren Sie die Tarife, um den Speicher zu finden, der Ihren Anforderungen entspricht.
Formeln ansehenZu lesen danach
Was passiert, wenn der Token-Speicher leer ist?
Ihr KI-Agent arbeitet, dann stoppt er eines Tages und teilt Ihnen mit, dass der Tank leer ist. Dieser Artikel erklärt Ihnen genau…
Lektion lesenWelches Abonnementmodell sollten Sie für Ihren KI-Agenten wählen?
Sie zögern zwischen dem 19-Euro-Tarif und dem 99-Euro-Tarif. Am Ende dieses Artikels wissen Sie, welcher zu Ihrem Akt…
Lektion lesenKI-Token: Was ein Agent verbraucht und wie man es vorhersieht
Token sind die Arbeitseinheit der KI: alles, was ein Agent liest und alles, was er schreibt, wird in Token gezählt. Nach diesem Kurs w…
Lektion lesen