AI-Lexikon für Führungskräfte: zwanzig Wörter einfach erklärt

Dieses Lexikon versucht nicht, Sie zum Ingenieur zu machen. Es gibt Ihnen die genaue Bedeutung von zwanzig Wörtern, nach Thema geordnet, damit Sie ein Angebot verstehen und die richtige Frage zum richtigen Zeitpunkt stellen können. Jede Definition passt in ein oder zwei Sätze und wird von einer konkreten Szene begleitet. Wenn Sie den Unterschied zwischen einem Agenten, einem Chatbot und einer Automatisierung suchen, wird der dedizierte Artikel ihn im Detail behandeln.

IDie Grundlagen: Modell, LLM, Token, Prompt

Das Modell ist das Rechenhirn; das Produkt, das Sie verwenden, kleidet es in eine Benutzeroberfläche, Regeln und Tools. Zwei Produkte können das gleiche Modell verwenden und sehr unterschiedliche Ergebnisse liefern, je nach den Anweisungen und Dokumenten, die sie ihm geben.

Ein Token ist die Texteinheit, die das Modell liest und schreibt. Es ist weder ein Buchstabe noch ganz ein Wort: ein kurzes Wort passt oft in einen Token, ein langes Wort in mehrere. Die Nachfass-E-Mail eines Klempners mit der Rechnung als Anlage stellt einige tausend Token dar. Anbieter berechnen nach Token, deshalb spricht man so viel davon.

Der Prompt ist der Text, den man dem Modell sendet, um es um etwas zu bitten. « Schreiben Sie eine höfliche E-Mail, um die verspätete Rechnung 2024-118 einzufordern, die drei Wochen überfällig ist » ist ein Prompt. Je mehr er den Zweck, den Ton und die nützlichen Informationen präzisiert, desto besser ist die Antwort.

IIDie Arbeit eines Agenten: Mission, Automatisierung, Testlauf, Validierung

Ein Agent ist ein Programm, das ein Modell nutzt, um eine Aufgabe bis zum Ende durchzuführen: Er liest, entscheidet über den nächsten Schritt, nutzt Tools und liefert ein Ergebnis. Während ein Chatbot eine Frage beantwortet, bearbeitet der Agent ein Dossier, zum Beispiel alle überfälligen Rechnungen vom Montag.

Die Mission ist die dauerhafte Anweisung eines Agenten: was er tut, für wen, in welchem Rhythmus und mit welchen Grenzen. Es ist ein Prompt, der sich von einem Mal zum anderen nicht ändert. Für eine Bäckerei: « Jeden Freitag die Mehlbestellung aus der Verkaufstabelle vorbereiten, ohne das angegebene Budget je zu überschreiten. »

Automatisierung bezeichnet eine Reihe fester Aktionen, die ohne menschliches Eingreifen ausgelöst werden: Wenn eine Rechnung bezahlt ist, sie in einen bestimmten Ordner archivieren. Sie denkt nicht nach. Ein Agent kann dagegen einen unerwarteten Fall behandeln, was mehr Überwachung erfordert.

Der Testlauf ist eine vollständige Ausführung, bei der nichts versendet wird: Der Agent bereitet seine E-Mails, Angebote oder Listen vor, und Sie lesen sie vor jedem Versand. Die Validierung ist der Moment, in dem Sie ein Ergebnis genehmigen, bevor es versendet wird. Bei ABYS validieren Sie die ersten Versendungen manuell; nach drei Validierungen können Sie zur automatischen Validierung übergehen, und die Risiken dieser Wahl sind schwarz auf weiß geschrieben.

IIIWas der Agent liest: Kontext, RAG, Fine-Tuning, Daten, Multimodal

Der Kontext ist der gesamte Text, den das Modell zum Zeitpunkt der Antwort vor Augen hat: die Mission, das Gespräch, die angehängten Dokumente. Seine Größe ist begrenzt und wird in Token gemessen. Was nicht im Kontext ist, existiert für ihn nicht: Ein Modell erinnert sich nicht an Ihren letzten Austausch, es sei denn, die Software gibt es ihm zurück.

RAG (Retrieval-Augmented Generation) besteht darin, vor jeder Antwort die nützlichen Passagen in Ihren Dokumenten zu suchen und sie dann in den Kontext zu platzieren. Eine Immobilienagentur profitiert davon, einen Agenten zu haben, der auf ihre eigenen Mandate antwortet, anstatt auf Allgemeinplätze. Fine-Tuning ist etwas anderes: Man setzt das Training des Modells auf Ihren Beispielen fort, um seinen Stil oder sein Format dauerhaft zu ändern. Das ist teuer und nicht geeignet für Informationen, die sich häufig ändern, wie Preise.

Strukturierte Daten sind in festen Feldern angeordnet: eine Tabelle mit einer Kundenspalte, einer Betragsspalte, einer Fälligkeitsspalte. Eine E-Mail oder ein gescanntes PDF sind unstrukturierte Daten. Ein Agent liest beide, aber er macht viel weniger Fehler bei den ersten. Ein multimodales Modell verarbeitet schließlich mehrere Arten von Inhalten: Text, Bilder, manchmal Audio. Es kann das Foto eines zerknitterten Lieferscheins lesen.

IVQualität und Risiken: Halluzination, Schutzmaßnahme, Protokoll

Ein Halluzination ist eine falsche Antwort, die mit Sicherheit formuliert wird: ein Gesetzesartikel, der nicht existiert, ein erfundenes Datum, ein gerundeter Preis. Sie kommt aus der Funktionsweise des Modells selbst, das eine plausible Fortsetzung erstellt. Man begrenzt sie, indem man Quellen angibt, den Agenten auffordert zu sagen, wenn er nicht weiß, und indem man überprüft.

Ein Schutzmaßnahme ist eine Regel, die den Agenten daran hindert, eine Grenze zu überschreiten: niemals einen Rabatt gewähren, niemals an einen Kunden in Streit schreiben, stoppen und fragen, sobald ein Betrag einen Schwellenwert überschreitet. Das Protokoll ist die datierte Spur dessen, was der Agent getan hat: wann er vorbeiging, was er las, was er vorbereitete oder versendete. Es ist das, das man öffnet, wenn ein Kunde sagt, nichts erhalten zu haben.

VKosten und Technik: API, Latenz, Kosten pro Aufruf

Eine API (Programmierschnittstelle) ist eine Tür, durch die ein Softwareprogramm ein anderes nutzt. Wenn ein Agent einen Text an ein Modell sendet oder einen Kontakt in einer Rechnungssoftware erstellt, geht er durch eine API. Sie müssen sie nicht bedienen, aber ihre Anwesenheit sagt, ob zwei Tools miteinander sprechen können.

Die Latenz ist die Verzögerung zwischen Anfrage und Antwort, von weniger als einer Sekunde bis zu mehreren Minuten für ein großes Dossier. Für einen Agenten, der jede Nacht arbeitet, zählt sie wenig; für eine Antwort am Telefon zählt sie viel. Die Kosten pro Aufruf sind der Preis für einen Austausch mit dem Modell. Sie hängen von den gesendeten und produzierten Token ab, wobei letztere oft teurer berechnet werden. Zwanzig Seiten zu überprüfen kostet daher mehr als zehn Zeilen zu sortieren.

VIDer Weg einer Anfrage, mit all diesen Wörtern

Diese zwanzig Wörter beschreiben eigentlich einen einzigen Weg. Hier ist, was passiert, wenn der Agent einer Steuerberatungskanzlei am Dienstagmorgen die Nachforderungen fehlender Unterlagen vorbereitet.