Insights · AI
Betrouwbare antwoorden komen uit uw bronnen, niet uit de gissingen van het model. Retrieval, regels en menselijke controle verkleinen het risico.
Een taalmodel raadpleegt geen archief wanneer het antwoordt: het genereert de meest waarschijnlijke woordreeks gegeven de context. Wanneer een vraag informatie raakt die niet in de trainingsdata zit, of die na de training is veranderd, stopt het model niet en zegt het niet „ik weet het niet”. Het blijft plausibele tekst produceren, op dezelfde zelfverzekerde toon die het voor een correct antwoord zou gebruiken. Dit is het mechanisme achter de zogenaamde hallucinaties: het zijn geen incidentele fouten om te repareren, maar het natuurlijke gedrag van een instrument dat optimaliseert op vloeiendheid, niet op waarheid.
Het grootste risico is niet het overduidelijk foute antwoord, dat u meteen herkent. Het is het geloofwaardige antwoord: een verwijzing naar regelgeving die niet bestaat, een contractclausule die met stelligheid wordt geciteerd maar verzonnen is, een datum of een cijfer dat is ingevoegd om de zin af te maken. In een zakelijke context verandert dit een nuttig instrument in een bron van operationeel en reputatierisico. Het model vragen om „nauwkeurig te zijn” lost niets op, omdat het model geen manier heeft om te onderscheiden wat het zich herinnert van wat het ter plekke construeert.
De doorbraak zit niet in het kiezen van een groter model, maar in het veranderen van waar het antwoord vandaan komt. In plaats van het model uit zijn statistische geheugen te laten putten, geeft u het op het moment van de vraag het relevante materiaal en vraagt u het om alleen op die basis te antwoorden. Het model is niet langer het archief, maar wordt de lezer die samenvat. Dit is het idee achter RAG, retrieval-augmented generation: eerst ophalen, dan genereren.
Wanneer een vraag binnenkomt, geeft het systeem die niet meteen door aan het model. Eerst doorzoekt het uw documenten — pagina's, contracten, procedures, productbladen — op de passages die het meest relevant zijn voor dat specifieke verzoek. Deze retrieval-fase is het hart van het mechanisme: haalt die het juiste materiaal op, dan heeft het antwoord een fundament; haalt die onnauwkeurig of ontbrekend materiaal op, dan kan geen enkel model dat compenseren. De kwaliteit van het ophalen telt zwaarder dan de kracht van het model.
Pas nu komt het model in beeld, en het krijgt een precieze instructie: antwoord uitsluitend op basis van de aangeleverde passages; als de informatie er niet in staat, zeg dat dan. Het verschil met vrij gebruik is groot. Het model hoeft niet meer te raden: het moet lezen, selecteren en herformuleren wat het voor zich heeft. Zijn taalkundige talent wordt in dienst gesteld van uw documentatie, niet van zijn verbeelding.
Een serieus antwoord laat zien waar het vandaan komt. Elke belangrijke bewering zou herleidbaar moeten zijn tot de documentpassage waaruit ze is gehaald, zodat iemand haar in enkele seconden kan verifiëren. De bronvermelding is geen cosmetisch detail: zij maakt het antwoord controleerbaar. Zonder herleidbaarheid blijft zelfs een correct antwoord een kwestie van vertrouwen; met herleidbaarheid wordt het een verifieerbare uitspraak.
Het systeem antwoordt alleen vanuit een gedefinieerde, actuele set documenten, niet vanuit het hele web en niet vanuit het interne geheugen van het model. Het inperken van de bronnenkring is de eerste manier om te voorkomen dat antwoorden afglijden naar ongeverifieerde informatie.
Onthouding moet worden geïnstrueerd en beloond: wanneer de bronnen het antwoord niet bevatten, moet het systeem dat zeggen in plaats van het gat op te vullen. Een „dit staat niet in de beschikbare documenten” is meer waard dan een verzonnen antwoord.
Wanneer een beleid verandert, werkt u het document bij en verandert het antwoord mee, zonder aan het model te komen. Dit houdt het systeem in lijn met de actuele realiteit van het bedrijf en vermindert antwoorden op basis van achterhaalde informatie.
Elk antwoord draagt zijn bronverwijzingen mee, zodat de lezer zelfstandig kan controleren. Verifieerbaarheid verandert blind vertrouwen in geïnformeerd vertrouwen en maakt het mogelijk het systeem te corrigeren wanneer het faalt.
Het systeem toegang geven tot bedrijfsdocumenten roept een controlevraag op: niet alles wat opvraagbaar is, zou voor iedereen opvraagbaar moeten zijn. De rechten van degene die de vraag stelt, moeten ook gelden voor het ophalen. Een medewerker mag via een samengevat antwoord geen informatie kunnen verkrijgen die hij niet zou mogen lezen door het originele document te openen. Toegangsgovernance is geen laag bovenop het systeem: zij is onderdeel van het systeem.
Wanneer bronnen persoonsgegevens bevatten, gelden de AVG-principes zoals bij elke andere verwerking: rechtsgrondslag, minimalisatie, omschreven doel, beperkte bewaartermijn. Dat betekent bewust beslissen wat er in het opvraagbare archief komt en wat niet, en bijzondere categorieën met extra zorg behandelen. De vraag is niet alleen „antwoordt het systeem goed”, maar „gebruikt het gegevens die het mag gebruiken, voor het doel waarvoor ze zijn verzameld”.
Een goed bestuurd systeem laat een spoor na: welke bronnen zijn geraadpleegd, welk antwoord is gegeven, wanneer. Dat dient om te verifiëren, te corrigeren en naleving aan te tonen, maar moet op zijn beurt worden gereguleerd, want ook logbestanden kunnen persoonsgegevens bevatten en hebben een bewaarbeleid nodig. Volwassen governance laat het systeem niet alleen werken: zij legt vast wie waarvoor verantwoordelijk is, en hoe lang informatie beschikbaar blijft.
Voordat er over modellen wordt gesproken, wordt besloten uit welke documenten het systeem mag putten, wie de eigenaar is en hoe vaak ze worden bijgewerkt. Een duidelijk perimeter is de premisse van elk betrouwbaar antwoord.
Er wordt gecontroleerd wie wat mag zien en waar persoonsgegevens zich bevinden, waarbij de toegang van het systeem wordt afgestemd op de werkelijke toegang van mensen en de minimalisatieprincipes vanaf het ontwerp worden toegepast.
Het systeem wordt zo geconfigureerd dat het alleen antwoordt vanuit het opgehaalde materiaal en het ontbreken van informatie meldt wanneer de bronnen tekortschieten. Onthouding wordt behandeld als een correct antwoord, niet als een mislukking.
Voor de gevallen met de grootste impact is het antwoord van het systeem een concept dat een persoon naleest voordat het definitief wordt. Menselijke controle vertraagt niet alles: zij concentreert zich daar waar een fout het meest zou kosten.
Echte antwoorden worden geobserveerd, citaten geverifieerd, zwakke punten van het ophalen opgespoord en de bronnen aangepast. Het systeem verbetert door documenten bij te werken, niet door steeds grotere modellen na te jagen.
Een geordend traject, geen schakelaar die u omzet
Elimineert RAG hallucinaties volledig?
Nee, het vermindert ze aanzienlijk maar brengt ze niet tot nul. Het model verankeren in uw bronnen maakt verzinnen veel moeilijker en maakt elk antwoord verifieerbaar, maar er blijft een foutmarge: een onnauwkeurige retrieval of een geforceerde samenvatting kan nog steeds onjuistheden opleveren. Daarom zijn menselijke controle bij kritieke gevallen en de mogelijkheid om citaten te verifiëren zo belangrijk.
Moeten we het model hertrainen op onze gegevens?
Bijna nooit, en het is zelden het eerste wat u moet doen. In de meeste gevallen is het effectiever en veiliger om de documenten aan te leveren op het moment van de vraag: u werkt een bron bij en het antwoord verandert, zonder ingreep in het model en zonder uw gegevens permanent in te bakken. Het is ook een privacyvriendelijkere aanpak, omdat de gegevens blijven in de bronnen die u beheert.
Wat gebeurt er als een document fout of verouderd is?
Het systeem zal antwoorden volgens dat document, omdat het vertrouwt op de bronnen die u het geeft. Dat is het centrale punt: de kwaliteit van de antwoorden hangt af van de kwaliteit en actualiteit van het archief. Daarom is bronnenonderhoud — het verwijderen van wat verouderd is, het bijwerken van wat verandert — een integraal onderdeel van het systeem en geen bijzaak.
Kunnen we bepalen wie welke informatie ziet?
Ja, en het is een vereiste, geen optie. De retrieval moet de rechten respecteren van degene die de vraag stelt: niemand mag via een antwoord verkrijgen wat hij niet rechtstreeks zou mogen lezen. Samen met de minimalisatie van persoonsgegevens en een bewaarbeleid voor logbestanden is dit wat het systeem verenigbaar maakt met de AVG en met uw interne regels.