Lessico IA per dirigenti: venti parole spiegate semplicemente

Questo lessico non cerca di fare di voi un ingegnere. Vi dà il significato esatto di venti parole, ordinate per tema, affinché possiate comprendere un'offerta e porre la giusta domanda al momento giusto. Ogni definizione tiene in una o due frasi e si accompagna a una scena concreta. Se cercate la differenza tra un agente, un chatbot e un'automazione, l'articolo dedicato la tratta in dettaglio.

ILe basi: modello, LLM, token, prompt

La modello è il cervello di calcolo; il prodotto che utilizzate lo veste di un'interfaccia, di regole e di strumenti. Due prodotti possono utilizzare lo stesso modello e dare risultati molto diversi, a seconda delle istruzioni e dei documenti che gli forniscono.

Un token è l'unità di testo che il modello legge e scrive. Non è né una lettera né esattamente una parola: una parola breve spesso corrisponde a un token, una parola lunga a più token. L'email di sollecito di un idraulico, con la fattura in allegato, rappresenta qualche migliaio di token. I fornitori fatturano al token, per questo se ne parla così tanto.

Il prompt è il testo che inviate al modello per chiedergli qualcosa. «Scrivi un'email cortese per reclamare la fattura 2024-118, in ritardo di tre settimane» è un prompt. Più precisa il scopo, il tono e le informazioni utili, migliore è la risposta.

IIIl lavoro di un agente: missione, automazione, prova in bianco, validazione

Un agente è un programma che utilizza un modello per portare a termine un compito: legge, decide il passo successivo, utilizza strumenti e restituisce un risultato. Dove un chatbot risponde a una domanda, l'agente elabora un fascicolo, ad esempio tutte le fatture scadute del lunedì.

La missione è l'istruzione duratura di un agente: quello che fa, per chi, a quale ritmo e con quali limiti. È un prompt che non cambia da una volta all'altra. Per una panetteria: « Ogni venerdì, preparare l'ordine di farina a partire dalla tabella delle vendite, senza mai superare il budget indicato. »

L'automazione designa una sequenza di azioni fisse innescata senza intervento umano: quando una fattura è pagata, archiviarla in una certa cartella. Non riflette. Un agente, invece, può gestire un caso imprevisto, il che richiede più sorveglianza.

La prova in bianco è un'esecuzione completa dove nulla viene inviato: l'agente prepara le sue email, i suoi preventivi o i suoi elenchi, e voi li leggete prima di qualsiasi invio. La convalidazione è il momento in cui approvate un risultato prima che venga inviato. Presso ABYS, convalidate i primi invii manualmente; dopo tre convalidazioni, potete passare alla convalidazione automatica, e i rischi di questa scelta sono scritti nero su bianco.

IIIQuello che l'agente legge: contesto, RAG, fine-tuning, dati, multimodale

Il contesto è l'insieme del testo che il modello ha sotto gli occhi al momento di rispondere: la missione, la conversazione, i documenti allegati. La sua dimensione è limitata e si conta in token. Quello che non è nel contesto non esiste per lui: un modello non ricorda il vostro ultimo scambio, a meno che il software non glielo fornisca di nuovo.

Il RAG (generazione aumentata da recupero) consiste nel cercare, prima di ogni risposta, i passaggi utili nei vostri documenti, poi nel collocarli nel contesto. Un'agenzia immobiliare ci guadagna un agente che risponde sui propri mandati piuttosto che su generalità. Il fine-tuning (regolazione fine) è un'altra cosa: si prosegue l'addestramento del modello sui vostri esempi per modificare durevolmente il suo stile o il suo formato. È costoso e poco adatto alle informazioni che cambiano spesso, come i prezzi.

I dati strutturati sono organizzati in caselle fisse: un foglio di calcolo con una colonna cliente, una colonna importo, una colonna scadenza. Un'email o un PDF scansionato sono dati non strutturati. Un agente legge entrambi, ma si sbaglia molto meno con i primi. Un modello multimodale, infine, elabora diversi tipi di contenuti: testo, immagini, talvolta audio. Può leggere la foto di una bolla di consegna stropicciata.

IVQualità e rischi: allucinazione, salvaguardia, registro

Un allucinazione è una risposta falsa formulata con sicurezza: un articolo di legge che non esiste, una data inventata, un prezzo arrotondato. Viene dal funzionamento stesso del modello, che compone una sequenza plausibile. La si limita fornendo fonti, chiedendo all'agente di dire quando non sa, e rileggendo.

Un salvaguardia è una regola che impedisce all'agente di oltrepassare un limite: non concedere mai uno sconto, non scrivere mai a un cliente in controversia, fermarsi e chiedere non appena un importo supera una soglia. Il registro è la traccia datata di quello che l'agente ha fatto: quando è passato, cosa ha letto, cosa ha preparato o inviato. È quello che si apre quando un cliente dice di non aver ricevuto nulla.

VCosti e tecnica: API, latenza, costo per chiamata

Un'API (interfaccia di programmazione) è una porta attraverso la quale un software ne utilizza un altro. Quando un agente invia un testo a un modello, o crea un contatto in un software di fatturazione, passa attraverso un'API. Non è necessario manipolarla, ma la sua presenza indica se due strumenti possono comunicare.

La latenza è il ritardo tra la richiesta e la risposta, da meno di un secondo a diversi minuti per un dossier lungo. Per un agente che lavora ogni notte, conta poco; per una risposta al telefono, conta molto. Il costo per chiamata è il prezzo di uno scambio con il modello. Dipende dai token inviati e dai token prodotti, questi ultimi spesso fatturati più caro. Rileggere venti pagine costa quindi più che ordinare dieci righe.

VIIl percorso di una richiesta, con tutte queste parole

Queste venti parole descrivono in realtà un solo percorso. Ecco cosa succede quando l'agente di uno studio di consulenza fiscale prepara, martedì mattina, i solleciti di documenti mancanti.