Insights · AI
RAG e governance: risposte AI affidabili nascono dalle tue fonti, non dalle ipotesi del modello. Retrieval, regole e controllo umano riducono le allucinazioni. Scopri come.
Un modello linguistico non consulta un archivio quando risponde: genera la sequenza di parole più probabile dato il contesto. Quando la domanda tocca informazioni che non sono nei suoi dati, o che sono cambiate dopo l'addestramento, il modello non si ferma e non dice 'non lo so'. Continua a produrre testo plausibile, con lo stesso tono sicuro che userebbe per una risposta corretta. Questo è il meccanismo dietro le cosiddette allucinazioni: non sono un errore occasionale da correggere, ma il comportamento naturale di uno strumento che ottimizza la fluidità, non la verità.
Il rischio peggiore non è la risposta ovviamente sbagliata, che si riconosce subito. È la risposta verosimile: un riferimento normativo che non esiste, una clausola contrattuale citata con sicurezza ma inventata, una data o una cifra inserita per completare la frase. In un contesto aziendale questo trasforma uno strumento utile in una fonte di rischio operativo e reputazionale. Chiedere al modello di 'essere accurato' non risolve il problema, perché il modello non ha modo di distinguere ciò che ricorda da ciò che costruisce sul momento.
La svolta non è scegliere un modello più grande, ma cambiare il punto da cui arriva la risposta. Invece di lasciare che il modello attinga alla propria memoria statistica, gli si fornisce il materiale pertinente al momento della domanda e gli si chiede di rispondere solo su quella base. Il modello smette di essere l'archivio e diventa il lettore che sintetizza. È questa l'idea alla radice del RAG, retrieval-augmented generation: prima si recupera, poi si genera.
Quando arriva una domanda, il sistema non la passa subito al modello. Prima cerca nei tuoi documenti, le pagine, i contratti, le procedure, le schede prodotto, i passaggi più rilevanti per quella specifica richiesta. Questa fase di retrieval è il cuore del meccanismo: se recupera il materiale giusto, la risposta avrà un fondamento; se recupera materiale impreciso o assente, nessun modello potrà compensare. La qualità del recupero conta più della potenza del modello.
Solo a questo punto entra in gioco il modello, e riceve un'istruzione precisa: rispondi usando esclusivamente i passaggi forniti; se l'informazione non c'è, dillo. La differenza rispetto all'uso libero è netta. Il modello non deve più indovinare: deve leggere, selezionare e riformulare ciò che ha davanti. Il suo talento linguistico viene messo al servizio della tua documentazione, non della sua immaginazione.
Una risposta seria indica da dove viene. Ogni affermazione importante dovrebbe essere riconducibile al passaggio del documento da cui è stata tratta, così che una persona possa verificarla in pochi secondi. La citazione non è un dettaglio estetico: è ciò che rende la risposta controllabile. Senza tracciabilità, anche una risposta corretta resta un atto di fede; con la tracciabilità, diventa un'affermazione verificabile.
Il sistema risponde solo da un insieme definito e aggiornato di documenti, non dall'intero web né dalla memoria interna del modello. Restringere il perimetro delle fonti è il primo modo per evitare che la risposta scivoli verso informazioni non verificate.
Va istruito e premiato il comportamento di astensione: quando le fonti non contengono la risposta, il sistema deve dichiararlo invece di riempire il vuoto. Un 'non è presente nei documenti disponibili' vale più di una risposta inventata.
Quando una policy cambia, si aggiorna il documento e la risposta cambia con esso, senza dover toccare il modello. Questo tiene il sistema allineato alla realtà attuale dell'azienda e riduce le risposte basate su informazioni superate.
Ogni risposta porta con sé i riferimenti alle fonti, così chi legge può controllare in autonomia. La verificabilità trasforma la fiducia cieca in fiducia informata e rende possibile correggere il sistema quando sbaglia.
Dare al sistema accesso ai documenti aziendali apre una questione di controllo: non tutto ciò che è recuperabile dovrebbe essere recuperabile per chiunque. I permessi di chi pone la domanda devono valere anche sul recupero. Un collaboratore non deve poter ottenere, tramite una risposta sintetizzata, informazioni che non potrebbe leggere aprendo il documento originale. La governance dell'accesso non è un livello sopra il sistema: è parte del sistema.
Quando le fonti contengono dati personali, valgono i principi del GDPR come per qualsiasi altro trattamento: base giuridica, minimizzazione, finalità definita, conservazione limitata. Significa decidere consapevolmente cosa entra nell'archivio recuperabile e cosa no, e trattare con prudenza particolare le categorie sensibili. La domanda non è solo 'il sistema risponde bene', ma 'sta usando dati che ha il diritto di usare, per la finalità per cui sono stati raccolti'.
Un sistema governato lascia traccia: quali fonti sono state consultate, quale risposta è stata data, quando. Questo serve a verificare, a correggere e a dimostrare conformità, ma a sua volta va disciplinato, perché anche i log possono contenere dati personali e hanno bisogno di una politica di conservazione. La governance matura non si limita a far funzionare il sistema: definisce chi è responsabile di cosa, e per quanto tempo le informazioni restano disponibili.
Prima di parlare di modelli, si decide a quali documenti il sistema può attingere, chi ne è proprietario e con quale frequenza vengono aggiornati. Un perimetro chiaro è la premessa di ogni risposta affidabile.
Si verifica chi può vedere cosa e dove vivono i dati personali, allineando l'accesso del sistema all'accesso reale delle persone e applicando i principi di minimizzazione fin dalla progettazione.
Si configura il sistema perché risponda solo dal materiale recuperato e dichiari l'assenza di informazione quando le fonti non bastano. L'astensione viene trattata come una risposta corretta, non come un fallimento.
Per i casi a maggiore impatto, la risposta del sistema è una bozza che una persona rivede prima di diventare definitiva. Il controllo umano non rallenta tutto: si concentra dove l'errore costerebbe di più.
Si osservano le risposte reali, si verificano le citazioni, si individuano i punti deboli del recupero e si interviene sulle fonti. Il sistema migliora aggiornando i documenti, non inseguendo modelli sempre più grandi.
Un percorso ordinato, non un interruttore da accendere
Il RAG elimina del tutto le allucinazioni?
No, le riduce in modo sostanziale ma non le azzera. Ancora il modello alle tue fonti rende molto più difficile l'invenzione e rende verificabile ogni risposta, ma restano margini di errore: un recupero impreciso o una sintesi forzata possono ancora produrre imprecisioni. Per questo contano il controllo umano sui casi critici e la possibilità di verificare le citazioni.
Serve riaddestrare il modello sui nostri dati?
Quasi mai, e raramente è la prima cosa da fare. Nella maggior parte dei casi è più efficace e più sicuro fornire i documenti al momento della domanda: aggiorni una fonte e la risposta cambia, senza interventi sul modello e senza incorporare i tuoi dati in modo permanente. È anche un approccio più rispettoso della privacy, perché i dati restano nelle fonti che controlli.
Cosa succede se un documento è sbagliato o vecchio?
Il sistema risponderà secondo quel documento, perché si fida delle fonti che gli dai. È il punto centrale: la qualità delle risposte dipende dalla qualità e dall'aggiornamento dell'archivio. Per questo la manutenzione delle fonti, ritirare ciò che è obsoleto, aggiornare ciò che cambia, è parte integrante del sistema e non un'attività accessoria.
Possiamo controllare chi vede quali informazioni?
Sì, ed è un requisito, non un'opzione. Il recupero deve rispettare i permessi di chi pone la domanda: nessuno deve ottenere tramite una risposta ciò che non potrebbe leggere direttamente. Insieme alla minimizzazione dei dati personali e a una politica di conservazione delle tracce, questo è ciò che rende il sistema compatibile con il GDPR e con le tue regole interne.