Sistemi e agenti AI

Che cos’è l’intelligenza artificiale generativa? Capacità e limiti

Come distinguere generazione, previsione, ricerca, regole e azioni prima di scegliere un sistema

Struttura generativa a filo continuo viola e bianco che forma anelli attorno a un’apertura centrale scura.

Una richiesta arriva via email: «Leggi il messaggio, trova il cliente nel CRM, stabilisci la priorità, prepara una risposta e aggiorna il ticket». Sembra un unico caso d’uso di IA. In realtà contiene almeno cinque lavori diversi: generare testo, classificare una richiesta, recuperare un record, applicare regole e compiere un’azione. Chiamare tutto “IA generativa” rende più difficile scegliere il sistema e i controlli giusti.

Parti dal lavoro, non dall’etichetta

L’intelligenza artificiale generativa produce o trasforma contenuti — come testo, codice, immagini e audio — sulla base di strutture apprese dai dati. È adatta quando il risultato richiesto è una bozza, una sintesi, una spiegazione, una traduzione, una variazione o un prototipo e quando quel risultato può essere verificato in rapporto alle conseguenze di un errore.

Non è, da sola, un database, un motore di ricerca, una regola deterministica, una previsione affidabile del futuro o un sistema autorizzato a modificare dati aziendali. Un prodotto può combinare tutte queste capacità, ma il modello generativo è soltanto una parte dell’architettura.

La domanda utile non è quindi «dove possiamo aggiungere l’IA generativa?». È: quale risultato deve produrre questo passaggio del lavoro, e quale prova ci dirà che è accettabile?

Generare non significa sapere

Un modello linguistico produce una sequenza di token plausibile nel contesto ricevuto. Questo meccanismo può creare una risposta chiara, pertinente e utile. Non equivale, però, a recuperare un fatto da una fonte verificata.

Considera due richieste:

  • «Riscrivi questa procedura in modo più chiaro per un nuovo collega»;
  • «Qual è lo stato aggiornato dell’ordine 4821?».

La prima richiede soprattutto trasformazione del contenuto. La seconda richiede accesso a un record preciso e aggiornato. Un modello può formulare bene entrambe le risposte; soltanto un collegamento affidabile alla fonte può stabilire lo stato reale dell’ordine.

Anche quando il sistema dispone di documenti recuperati, generazione e retrieval restano funzioni diverse. Il retrieval porta nel contesto una fonte o un record esistente; il modello costruisce la risposta. La combinazione può migliorare pertinenza e verificabilità, ma non garantisce che siano stati recuperati i dati giusti, che il contesto sia aggiornato o che la risposta li rappresenti senza errori.

Per questo una frase fluida non è una prova. Quando una risposta può influire su denaro, diritti, clienti, sicurezza o operazioni, occorre verificare fonte, dato e ragionamento in proporzione al rischio. Come verificare una risposta generata è un problema distinto dalla qualità dello stile.

Cinque lavori diversi dietro la parola IA

Un sistema reale può attraversare tutte le corsie seguenti. La distinzione non è una tassonomia normativa: è una mappa M4TIC per capire quale componente produce ogni risultato e quale controllo manca. Il nome commerciale del prodotto non dimostra in quale corsia si trova un passaggio: un chatbot può generare una risposta, recuperare dati e chiamare strumenti nella stessa conversazione.

1. Genera

Output: una bozza, una sintesi, una traduzione, un’immagine, del codice o una trasformazione.

Domanda di controllo: possiamo valutare il risultato prima che produca conseguenze?

Errore tipico: contenuto plausibile ma falso, incompleto, fuori tono o troppo simile a materiale esistente.

2. Predice o classifica

Output: un punteggio, una probabilità, un’etichetta o una categoria.

Domanda di controllo: su quali campioni, soglie e tipi di errore è stato validato il risultato?

Errore tipico: una classificazione sbagliata che sembra precisa perché è espressa con un numero o un’etichetta netta.

3. Recupera

Output: un record, un documento, una fonte o un elemento già esistente.

Domanda di controllo: la fonte è corretta, aggiornata e autorizzata per quella persona e quello scopo?

Errore tipico: dato assente, obsoleto, non pertinente o proveniente dalla fonte sbagliata.

4. Applica regole

Output: un esito ripetibile derivato da condizioni esplicite.

Domanda di controllo: la regola è completa, testata, versionata e gestisce le eccezioni?

Errore tipico: logica incompleta o implementata male, non variabilità generativa.

5. Agisce

Output: un record modificato, un messaggio inviato, un pagamento avviato o un processo attivato.

Domanda di controllo: chi ha autorizzato l’azione, quali limiti si applicano e come può essere fermata o revocata?

Errore tipico: effetto non autorizzato, duplicato o difficile da annullare.

Per governare un sistema che combina più corsie bisogna separare questi momenti, non considerarli un’unica “risposta dell’IA”.

Dove l’IA generativa funziona bene

La generazione crea valore quando il compito ammette più risultati accettabili e una persona o un controllo può valutarli senza annullare il beneficio.

Esempi adatti includono:

  • preparare una prima bozza da informazioni approvate;
  • sintetizzare un documento mantenendo un collegamento alle fonti;
  • adattare tono, formato o livello di dettaglio;
  • tradurre con revisione terminologica e contestuale;
  • spiegare un concetto a pubblici diversi;
  • proporre varianti per un prototipo;
  • assistere nella scrittura di codice quando test e revisione restano parte del processo.

Il vantaggio non è che il modello “capisce come una persona”. È che può produrre rapidamente variazioni coerenti con istruzioni ed esempi. La varietà può essere utile per esplorare uno spazio di soluzioni; diventa un problema quando il processo richiede sempre lo stesso risultato esatto.

“Nuovo output” va inoltre interpretato con cautela. Significa che il contenuto viene prodotto in quel momento, non che verità, unicità, titolarità o assenza di somiglianze siano garantite. Questi aspetti dipendono da input, prodotto, contratto, uso e giurisdizione e richiedono una valutazione specifica.

Classificare con un modello generativo: flessibilità in cambio di variabilità

Un modello linguistico può restituire un’etichetta o estrarre campi da testo non strutturato. Per esempio, può leggere richieste formulate in modi diversi e proporre categoria, urgenza e dati principali. Questo approccio è interessante quando lo schema cambia, gli esempi sono pochi o il linguaggio è troppo vario per regole semplici.

Ma l’interfaccia generativa non elimina il bisogno di validazione. Se il volume è elevato, le categorie sono stabili e una classificazione errata ha conseguenze importanti, un classificatore specializzato, regole esplicite o una combinazione dei due può offrire maggiore costanza, costi più prevedibili e un audit più chiaro.

Il confronto va fatto sul lavoro reale:

  • qualità per categoria, non soltanto media complessiva;
  • falsi positivi e falsi negativi più costosi;
  • stabilità su formulazioni e lingue diverse;
  • gestione dei casi incerti;
  • costo di revisione e correzione;
  • comportamento quando il formato di input cambia.

Usare un modello generativo per classificare è una scelta architetturale, non la prova che la classificazione sia diventata generazione.

Quando retrieval, regole o software tradizionale sono migliori

Se esiste già una risposta corretta in una fonte autorizzata, il problema principale è recuperarla. Se il risultato deriva da una regola stabile, il problema è applicarla. Se serve un calcolo esatto, va eseguito da software progettato per il calcolo. Aggiungere generazione a questi passaggi può migliorare l’interfaccia, ma non deve sostituire il meccanismo che produce la verità operativa.

Preferisci un percorso deterministico quando:

  • la stessa condizione deve produrre lo stesso esito;
  • la logica è esplicita e cambia raramente;
  • serve ricostruire con precisione perché è stata presa una decisione;
  • un errore produce conseguenze elevate o difficili da correggere;
  • il contenuto variabile non aggiunge valore;
  • una query, una formula o una regola risolve già il compito in modo più semplice.

Questo non significa eliminare il modello dall’esperienza. Un sistema può recuperare un record con una query, applicare una regola nel codice e usare il modello soltanto per spiegare l’esito in linguaggio naturale. La soluzione migliore spesso combina componenti diversi senza chiedere alla generazione di fare tutto.

L’automazione e gli agenti iniziano dove compare l’azione

Generare la frase «aggiorna il ticket» non aggiorna nulla. Per produrre un effetto il sistema deve disporre di uno strumento o di un’integrazione, dell’identità corretta, dei permessi necessari e di una regola che stabilisca se l’azione può procedere.

Questa separazione è fondamentale:

  • il modello può proporre un’azione;
  • un’applicazione può verificare argomenti e regole applicative;
  • una persona o una regola può approvare;
  • uno strumento può eseguire;
  • log e monitoraggio devono registrare l’esito.

Quando il sistema sceglie fra più strumenti o percorsi entro obiettivi e limiti, entra nel territorio degli agenti AI. Quando serve un contratto comune per esporre capacità a più applicazioni, può entrare in gioco MCP. Nessuna delle due capacità è implicita nel fatto che il modello generi testo.

I limiti che cambiano la scelta

I limiti non sono una nota finale da aggiungere dopo la lista dei benefici. Determinano se il caso d’uso è adatto.

  • Variabilità: lo stesso input può produrre output differenti. Decidi quanta variazione è accettabile.
  • Confabulazione: il modello può produrre affermazioni false o non supportate. La mappa degli errori dell’IA aiuta a distinguere dove entra il problema.
  • Contesto: il modello non possiede automaticamente dati aziendali aggiornati. Il sistema deve fornire il contesto necessario e controllarne provenienza e accesso.
  • Sensibilità alle istruzioni: formulazione, ordine, esempi e contenuto recuperato possono cambiare il risultato.
  • Valutazione: “sembra buono” non è un criterio. Servono campioni rappresentativi, casi limite e soglie legate alle conseguenze.
  • Dati, privacy e sicurezza: invio, conservazione, utilizzo e permessi dipendono da prodotto e configurazione. IA privata per le aziende approfondisce il confine dei dati.
  • Proprietà intellettuale: non presumere originalità o titolarità; valuta il caso concreto.
  • Costo operativo: includi revisione, integrazione, monitoraggio, correzioni ed eccezioni, non soltanto il prezzo per chiamata.

Un caso d’uso resta interessante quando il valore sopravvive a questi controlli. Se funziona soltanto assumendo output sempre corretti, dati sempre aggiornati e nessuna revisione, il progetto non è ancora definito.

Una tabella per scegliere il primo caso d’uso

Scorri lateralmente nella tabella per confrontare tutte le colonne

Segnali per scegliere la generazione o un altro componente del sistema
DomandaSegnale favorevole alla generazioneSegnale per un’altra componente
Qual è l’output?Bozza, sintesi, spiegazione, trasformazione o varianteRecord esatto, calcolo, regola, punteggio o azione
Quanti risultati sono accettabili?Più formulazioni possono soddisfare il bisognoServe sempre lo stesso esito
Come rileviamo un errore?Revisione o test disponibili prima dell’usoL’errore è difficile da vedere o arriva dopo l’effetto
Qual è la conseguenza?Bassa, reversibile e contenibileAlta, irreversibile o soggetta a obblighi specifici
Quali fonti servono?Contesto approvato può essere fornito e citatoServe una fonte autorevole, aggiornata e interrogabile direttamente
Il sistema deve agire?Il modello prepara una propostaServono permessi, approvazioni, log e revoca

La tabella non assegna un punteggio universale. Serve a rendere visibili le condizioni prima di confrontare prodotti.

Un primo passo proporzionato

Scegli un’attività circoscritta, reversibile e già abbastanza compresa da poter definire un risultato accettabile. Raccogli esempi rappresentativi. Stabilisci che cosa deve restare invariato, chi verifica l’output, quali dati non possono entrare nel sistema e quando il caso deve passare a una persona.

Poi separa il flusso di lavoro in cinque domande:

  1. Che cosa deve essere generato?
  2. Che cosa deve essere predetto o classificato?
  3. Quali dati devono essere recuperati e da dove?
  4. Quali regole devono restare deterministiche?
  5. Quali azioni sono consentite, approvate e revocabili?

Questa scomposizione evita due errori opposti: usare un modello generativo dove basta una regola e costruire una sequenza rigida dove serve davvero variazione linguistica. La tecnologia viene dopo il confine del compito.

Fonti e approfondimenti

Indicazioni primarie dietro questo articolo.

  1. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1)National Institute of Standards and Technology

    Profilo sui rischi dell’IA generativa, incluse confabulazione, valutazione, privacy, sicurezza e proprietà intellettuale.

  2. Generative AI Technologies and Their Commercial Applications (GAO-24-106946)U.S. Government Accountability Office

    Descrizione delle tecnologie generative, delle applicazioni commerciali e dei principali limiti.

  3. Explanatory memorandum on the updated OECD definition of an AI systemOECD.AI

    Definizione aggiornata e distinzione fra output quali predizioni, contenuti, raccomandazioni e decisioni.

  4. Framework for the Classification of AI SystemsOECD.AI

    Framework per descrivere sistemi e contesti senza ridurre ogni capacità alla generazione.

  5. Attention Is All You NeedVaswani et al., NeurIPS 2017

    Fonte tecnica originaria sull’architettura transformer; supporta il contesto tecnico, non la scelta aziendale.