Léxico IA para dirigentes: vinte palavras explicadas de forma simples

Este léxico não procura fazer de você um engenheiro. Ele lhe dá o sentido correto de vinte palavras, organizadas por tema, para que você possa entender uma oferta e fazer a pergunta certa no momento certo. Cada definição cabe em uma ou duas frases e vem acompanhada de uma cena concreta. Se você procura a diferença entre um agente, um chatbot e uma automação, o artigo dedicado a trata em detalhes.

IO básico: modelo, LLM, token, prompt

O modelo é o cérebro de cálculo; o produto que você usa o veste com uma interface, regras e ferramentas. Dois produtos podem usar o mesmo modelo e dar resultados muito diferentes, dependendo das instruções e dos documentos que lhe fornecem.

Um token é a unidade de texto que o modelo lê e escreve. Não é nem uma letra nem exatamente uma palavra: uma palavra curta geralmente cabe em um token, uma palavra longa em vários. O e-mail de cobrança de um encanador, com a fatura em anexo, representa alguns milhares de tokens. Os fornecedores cobram por token, é por isso que se fala tanto sobre isso.

O prompt é o texto que se envia ao modelo para pedir algo. "Escreva um e-mail educado para reclamar a fatura 2024-118, atrasada há três semanas" é um prompt. Quanto mais ele especifica o objetivo, o tom e as informações úteis, melhor é a resposta.

IIO trabalho de um agente: missão, automação, teste em branco, validação

Um agente é um programa que usa um modelo para levar uma tarefa até o fim: ele lê, decide a próxima etapa, usa ferramentas e entrega um resultado. Onde um chatbot responde a uma pergunta, o agente processa um dossiê, por exemplo todas as faturas vencidas de segunda-feira.

A missão é a instrução duradoura de um agente: o que ele faz, para quem, em qual ritmo e com quais limites. É um prompt que não muda de uma vez para a outra. Para uma padaria: "Toda sexta-feira, preparar o pedido de farinha a partir da tabela de vendas, nunca ultrapassando o orçamento indicado."

A automação designa uma sequência de ações fixas acionada sem intervenção humana: quando uma fatura é paga, arquivá-la em tal pasta. Ela não reflete. Um agente, por sua vez, pode lidar com um caso imprevisto, o que exige mais monitoramento.

O teste em branco é uma execução completa onde nada sai: o agente prepara seus e-mails, seus orçamentos ou suas listas, e você os lê antes de qualquer envio. A validação é o momento em que você aprova um resultado antes de ser enviado. Na ABYS, você valida os primeiros envios manualmente; após três validações, você pode passar para validação automática, e os riscos dessa escolha estão escritos em preto no branco.

IIIO que o agente lê: contexto, RAG, fine-tuning, dados, multimodal

O contexto é o conjunto de todo o texto que o modelo tem diante dos olhos no momento de responder: a missão, a conversa, os documentos anexados. Seu tamanho é limitado e se conta em tokens. O que não está no contexto não existe para ele: um modelo não se lembra de sua última troca, a menos que o software a coloque novamente diante dele.

O RAG (geração aumentada por recuperação) consiste em procurar, antes de cada resposta, as passagens úteis em seus documentos e depois colocá-las no contexto. Uma imobiliária ganha um agente que responde sobre seus próprios mandatos em vez de generalidades. O fine-tuning (ajuste fino) é outra coisa: continua-se o treinamento do modelo em seus exemplos para modificar permanentemente seu estilo ou formato. É caro e mal adaptado a informações que mudam frequentemente, como preços.

Os dados estruturados são organizados em campos fixos: uma planilha com uma coluna cliente, uma coluna valor, uma coluna vencimento. Um e-mail ou um PDF digitalizado são dados não estruturados. Um agente lê os dois, mas erra muito menos com os primeiros. Um modelo multimodal, por fim, processa vários tipos de conteúdo: texto, imagens, às vezes áudio. Pode ler a foto de um comprovante de entrega amassado.

IVQualidade e riscos: alucinação, proteção, registro

Uma alucinação é uma resposta falsa formulada com segurança: um artigo de lei que não existe, uma data inventada, um preço arredondado. Vem do funcionamento do próprio modelo, que compõe uma sequência plausível. Você a limita fornecendo fontes, pedindo ao agente para dizer quando não sabe, e relendo.

Um salvaguarda é uma regra que impede o agente de ultrapassar um limite: nunca conceder desconto, nunca escrever a um cliente em litígio, parar e pedir assim que um montante ultrapasse um limite. O registro é o rastro datado do que o agente fez: quando passou, o que leu, o que preparou ou enviou. É ele que se abre quando um cliente diz não ter recebido nada.

VCustos e técnica: API, latência, custo por chamada

Uma API (interface de programação) é uma porta pela qual um software usa outro. Quando um agente envia um texto a um modelo ou cria um contato em um software de faturamento, ele passa por uma API. Você não precisa manipulá-la, mas sua presença diz se duas ferramentas podem se comunicar.

A latência é o atraso entre a solicitação e a resposta, de menos de um segundo a vários minutos para um dossiê longo. Para um agente que trabalha todas as noites, ela importa pouco; para uma resposta ao telefone, ela importa muito. O custo por chamada é o preço de uma troca com o modelo. Depende dos tokens enviados e dos tokens produzidos, sendo estes últimos frequentemente cobrados mais caro. Revisar vinte páginas custa mais do que classificar dez linhas.

VIO trajeto de uma solicitação, com todas essas palavras

Essas vinte palavras descrevem na verdade um único trajeto. Aqui está o que acontece quando o agente de um escritório de contabilidade prepara, na terça-feira de manhã, as cobranças de documentos faltantes.