AI-lexicon voor directeuren: twintig woorden eenvoudig uitgelegd

Dit lexicon probeert u niet tot ingenieur om te vormen. Het geeft u de juiste betekenis van twintig woorden, ingedeeld per thema, zodat u een aanbod kunt begrijpen en op het juiste moment de juiste vraag kunt stellen. Elke definitie past in één of twee zinnen en gaat vergezeld van een concrete situatie. Als u het verschil tussen een agent, een chatbot en een automatisering zoekt, behandelt het speciale artikel dit in detail.

IDe basis: model, LLM, token, prompt

Het model is de rekenkern; het product dat u gebruikt kleedt dit in met een interface, regels en tools. Twee producten kunnen hetzelfde model gebruiken en zeer verschillende resultaten geven, afhankelijk van de instructies en documenten die eraan worden verstrekt.

Een token is de teksteenheid die het model leest en schrijft. Het is noch een letter noch helemaal een woord: een kort woord past vaak in één token, een lang woord in meerdere. De vervolgmail van een loodgieter, met de factuur als bijlage, vertegenwoordigt enkele duizenden tokens. Leveranciers factureren per token, daarom wordt er zoveel over gesproken.

De prompt is de tekst die u naar het model stuurt om iets te vragen. 'Schrijf een beleefd e-mailbericht om factuur 2024-118 op te eisen, die drie weken achterstallig is' is een prompt. Hoe preciezer het doel, de toon en de nuttige informatie, hoe beter het antwoord.

IIHet werk van een agent: missie, automatisering, proefrun, validatie

Een agent is een programma dat een model gebruikt om een taak tot het einde toe uit te voeren: het leest, beslist over de volgende stap, gebruikt tools en levert een resultaat op. Waar een chatbot een vraag beantwoordt, verwerkt de agent een dossier, bijvoorbeeld alle vervallen facturen van maandag.

De missie is de duurzame instructie van een agent: wat hij doet, voor wie, in welk tempo en met welke limieten. Het is een prompt die van keer tot keer niet verandert. Voor een bakkerij: 'Elke vrijdag de bloemmeling bestellen op basis van de verkooptabel, zonder ooit het aangegeven budget te overschrijden.'

Automatisering is een reeks vaste acties die zonder menselijke tussenkomst worden geactiveerd: wanneer een factuur is betaald, deze in een bepaalde map archiveren. Het denkt niet na. Een agent kan daarentegen een onverwacht geval behandelen, wat meer toezicht vereist.

De proefuitvoering is een volledige uitvoering waarbij niets wordt verzonden: de agent bereidt zijn e-mails, offertes of lijsten voor, en u leest deze voordat alles wordt verzonden. Validatie is het moment waarop u een resultaat goedkeurt voordat het wordt verzonden. Bij ABYS valideert u de eerste verzendingen handmatig; na drie validaties kunt u overschakelen naar automatische validatie, en de risico's van deze keuze zijn duidelijk in zwart op wit geschreven.

IIIWat de agent leest: context, RAG, fine-tuning, gegevens, multimodaal

De context is alle tekst die het model op het moment van antwoorden voor ogen heeft: de missie, het gesprek, de bijgevoegde documenten. De grootte ervan is beperkt en wordt in tokens gemeten. Wat niet in de context staat, bestaat niet voor hem: een model herinnert zich uw laatste uitwisseling niet, tenzij de software het hem opnieuw geeft.

RAG (retrieval-augmented generation) bestaat eruit dat u vóór elk antwoord de nuttige passages in uw documenten opzoekt en deze in de context plaatst. Een makelaarskantoor profiteert hiervan met een agent die antwoord geeft over zijn eigen mandaten in plaats van algemeenheden. Fine-tuning (fijnafstelling) is iets anders: u zet de training van het model voort met uw voorbeelden om zijn stijl of format blijvend aan te passen. Dit is kostbaar en niet geschikt voor informatie die vaak verandert, zoals prijzen.

Gestructureerde gegevens zijn in vaste vakken ondergebracht: een spreadsheet met een kolom klant, een kolom bedrag, een kolom vervaldatum. Een e-mail of gescande PDF zijn ongestructureerde gegevens. Een agent leest beide, maar maakt veel minder fouten met de eerste. Een multimodaal model verwerkt ten slotte meerdere soorten inhoud: tekst, afbeeldingen, soms geluid. Het kan de foto van een verfrommelde afleveringsbon lezen.

IVKwaliteit en risico's: hallucinatie, veiligheidsmaatregelen, logboek

Een hallucinatie is een vals antwoord dat met zekerheid wordt geformuleerd: een wettelijk artikel dat niet bestaat, een uitgevonden datum, een afgerond bedrag. Het komt voort uit de werking van het model zelf, dat een waarschijnlijke vervolg samenstelt. U beperkt het door bronnen te geven, de agent te vragen te zeggen wanneer hij het niet weet, en opnieuw te lezen.

Een veiligheidsmaatregel is een regel die de agent verhindert een grens te overschrijden: nooit een korting toekennen, nooit naar een klant in geschil schrijven, stoppen en vragen zodra een bedrag een drempel overschrijdt. Het logboek is het gedateerde spoor van wat de agent heeft gedaan: wanneer hij is gepasseerd, wat hij heeft gelezen, wat hij heeft voorbereid of verzonden. Dit is wat u opent wanneer een klant zegt niets te hebben ontvangen.

VKosten en techniek: API, latentie, kosten per aanroep

Een API (programmeerinterface) is een deur waardoor de ene software de andere gebruikt. Wanneer een agent een tekst naar een model stuurt, of een contact in facturatiesoftware aanmaakt, gaat het via een API. U hoeft het niet te manipuleren, maar de aanwezigheid ervan zegt of twee tools met elkaar kunnen communiceren.

Latentie is de vertraging tussen het verzoek en het antwoord, van minder dan een seconde tot enkele minuten voor een lang dossier. Voor een agent die elke nacht werkt, telt het weinig; voor een antwoord aan de telefoon telt het veel. De kosten per oproep zijn de prijs van een uitwisseling met het model. Dit hangt af van de verzonden tokens en de geproduceerde tokens, waarbij de laatste vaak duurder worden gefactureerd. Twintig pagina's nalezen kost dus meer dan tien regels sorteren.

VIDe route van een verzoek, met al deze woorden

Deze twintig woorden beschrijven eigenlijk één traject. Dit gebeurt er wanneer de agent van een boekhoudkantoor dinsdagochtend de aanmaningen voor ontbrekende stukken voorbereidt.