Onze insights
17/11/2026

Tech Explained: RAG (Retrieval-Augmented Generation)

Hanne De Kesel
Door Hanne De Kesel
·
november 17, 2026

Stel ChatGPT of Claude een vraag over je eigen bedrijf, je producten, je processen of je beleid, en het verzint iets, zegt dat het die informatie niet heeft, of geeft een algemeen antwoord dat aan jouw situatie voorbijgaat.

Dat volgt uit hoe deze modellen gebouwd zijn. Ze zijn getraind op data tot een bepaald moment, en ze weten niets van wat buiten die training valt. Ook niet van alles wat jouw bedrijf uniek maakt.

Retrieval-Augmented Generation, RAG, is de meest praktische oplossing voor dit probleem. Het is de technologie waarmee AI-systemen vragen beantwoorden op basis van je eigen documenten, data en kennis: accuraat, in realtime, en zonder dat je het model van nul moet hertrainen.

De naam is onhandig, maar hij beschrijft het mechanisme in de volgorde waarin het werk gebeurt.

Wat de drie woorden betekenen
Retrieval

Eerst opzoeken

Het systeem zoekt in je eigen documenten de passages die over de vraag gaan

Augmented

Toevoegen aan de vraag

Die passages gaan samen met de vraag naar het model

Generation

Antwoorden uit wat het las

Het model schrijft het antwoord op basis van het materiaal dat het kreeg, niet uit het geheugen

De rest van dit artikel is detail bij die drie woorden. Het model verandert niet, de vraag verandert niet, en er wordt niets hertraind. Wat verandert, is dat het model de juiste pagina's in handen heeft wanneer het begint te schrijven.

Begin bij het probleem

Om te begrijpen waarom RAG ertoe doet, helpt het om precies te zien wat er zonder RAG ontbreekt.

De kloof
Wat een LLM weet
  • Algemene kennis over de wereld
  • Redeneer- en taalvermogen
  • Vastgevroren op het moment van de training
Wat je bedrijf nodig heeft
  • Interne documenten en processen
  • Actuele, eigen data
  • Recente gebeurtenissen en beslissingen

Large language models worden getraind op enorme hoeveelheden tekst: boeken, websites, artikels, code. Daarbij bouwen ze indrukwekkende algemene kennis en redeneervermogen op. Maar die training gebeurt op een vast moment, en daarna ligt de kennis van het model vast.

De linkerkolom is indrukwekkend en volledig generiek. De rechterkolom is wat bepaalt of een antwoord je vooruithelpt, en niets daarvan zat ooit in de trainingsdata.

Die mismatch duikt bij bedrijven op als drie concrete problemen.

Het probleem van de kennisgrens. Het model weet niets van wat er gebeurde nadat de trainingsdata verzameld werden. Vraag naar de resultaten van vorig kwartaal, een recente beleidswijziging of een nieuwe productlancering, en het heeft geen idee. De kloof groeit stilletjes, tot iemand merkt dat de tool vol vertrouwen een wereld beschrijft die al lang verder is.

Het probleem van de interne kennis. Het model heeft je personeelshandboek, je klantcontracten, je productdocumentatie of je interne processen nooit gezien. Die kennis staat nergens in de trainingsdata, en geen enkele slimme prompt tovert ze tevoorschijn.

Het probleem van hallucinaties. Als een LLM iets niet weet, zegt het dat niet altijd. Soms vult het de leemte met een geloofwaardig klinkend antwoord dat toevallig fout is. In een chatvenster is dat vervelend. In een bedrijfsproces is het een serieus betrouwbaarheidsrisico, want een fout antwoord in de huisstijl is veel moeilijker te zien dan een duidelijk gat.

RAG pakt alle drie aan, en telkens op dezelfde manier: het zorgt ervoor dat het model leest voor het schrijft.

De vergelijking met een bibliotheek

Stel dat je een ervaren consultant aanneemt. Hij heeft brede expertise, heeft veel gelezen, redeneert goed en communiceert helder. Maar hij heeft nooit in jouw sector gewerkt, en hij heeft je interne documenten nooit gezien.

Je hebt twee opties.

Optie A. Je stuurt hem op een opleiding van zes maanden, waarin hij elk document leest dat je bedrijf ooit gemaakt heeft. Dat is duur en traag, en hij moet het opnieuw doen telkens er iets verandert.

Optie B. Je geeft hem toegang tot je archiefkast. Stel je een vraag, dan zoekt hij eerst de relevante documenten op, leest ze, en antwoordt dan. Jouw specifieke informatie en zijn algemene expertise komen samen.

RAG is optie B. In plaats van het model te hertrainen op je data, geeft RAG het model de mogelijkheid om relevante informatie op te halen op het moment dat ze nodig is, en daarmee een accuraat, onderbouwd antwoord op te bouwen. De consultant wordt er niet slimmer van, maar hij stopt met gokken over jouw bedrijf.

Hoe RAG werkt

De mechaniek is eenvoudiger dan de naam doet vermoeden. Zie de hele pipeline als een trechter: ze begint bij alles wat je hebt en eindigt bij één antwoord, gebouwd uit de handvol passages die relevant waren.

Van alles wat je hebt naar één antwoord
Alles wat de AI moet weten

PDF's, Word-bestanden, mails, webpagina's, records uit databanken

Chunks in een vector database

Elk stuk omgezet in een embedding die de betekenis vastlegt

De vraag, op dezelfde manier omgezet

Vergeleken met de index op betekenis in plaats van op trefwoord

De best passende chunks

Enkel de passages die over de vraag gaan

Eén onderbouwd antwoord

Geschreven uit het opgehaalde materiaal, samen met de oorspronkelijke vraag

Er zijn vier fases, en bijna elke ontwerpkeuze in een RAG-project zit in een van die vier.

Fase 1: inladen en indexeren. Je documenten, PDF's, Word-bestanden, mails, webpagina's, records uit databanken, wat je ook hebt, worden in stukken geknipt (chunks) en omgezet in numerieke voorstellingen die embeddings heten. Die embeddings leggen de betekenis van elke chunk vast, zodat gelijkaardige inhoud snel terug te vinden is. Ze worden bewaard in een vector database, een gespecialiseerde databank voor dit soort semantisch zoeken. Zo bouw je een index van alles waar de AI naar moet kunnen verwijzen.

Fase 2: de vraag ontvangen. Een gebruiker stelt een vraag. Voor het LLM iets probeert te beantwoorden, zet het systeem de vraag eerst om in hetzelfde numerieke formaat als de geïndexeerde documenten. Zo zijn vraag en documenten op dezelfde basis te vergelijken.

Fase 3: relevante inhoud ophalen. Het systeem doorzoekt de vector database naar de chunks die semantisch het dichtst bij de vraag liggen. Het zoekt dus op betekenis in plaats van op trefwoorden. De beste resultaten worden opgehaald. Dit is het retrieval-deel van Retrieval-Augmented Generation, en het is de fase die het vaakst bepaalt of het uiteindelijke antwoord deugt.

Fase 4: een onderbouwd antwoord genereren. De opgehaalde inhoud gaat samen met de oorspronkelijke vraag naar het LLM. Het model heeft nu zijn algemene redeneervermogen én de specifieke, relevante informatie die het nodig heeft om accuraat te antwoorden. Het genereert een antwoord dat steunt op je echte documenten. Dit is het augmented-generation-deel.

Het model is de laatste schakel in de keten, niet het slimme stuk in het midden. Tegen de tijd dat het begint te schrijven, is het werk dat de kwaliteit van het antwoord bepaalt al gedaan.

Een concreet voorbeeld

Neem een vraag die elk support- en salesteam krijgt, en leg ze twee keer voor aan hetzelfde model.

Eén vraag, twee systemen

De vraag: wat is ons terugbetalingsbeleid voor enterprise-klanten?

Zonder RAG heeft het LLM geen toegang tot je algemene voorwaarden. Het zegt dat het het niet weet, of het genereert een geloofwaardig klinkend maar volledig verzonnen terugbetalingsbeleid. Geen van beide helpt, en het tweede is erger dan het eerste, want het leest exact als het echte.

Met RAG haalt het systeem de relevante sectie op uit je algemene voorwaarden voor enterprise-klanten. Het model leest ze en antwoordt op basis daarvan, ongeveer zo: enterprise-klanten hebben recht op een volledige terugbetaling binnen 30 dagen na ondertekening van het contract, en op een terugbetaling pro rata voor de ongebruikte maanden als ze na de initiële looptijd opzeggen met een opzegtermijn van 60 dagen, volgens de overeenkomst die laatst bijgewerkt werd in maart 2024. Die voorwaarden zijn een illustratie, niet het echte beleid van wie dan ook. Het gaat erom waar ze vandaan kwamen.

Het model is in beide gevallen hetzelfde. Het enige verschil is de informatie die het had toen het antwoordde.

Wat RAG anders maakt dan fine-tuning

Wanneer bedrijven voor het eerst botsen op de vraag "hoe laten we AI werken met onze eigen data", horen ze vaak over twee aanpakken: RAG en fine-tuning. Ze lossen verwante maar verschillende problemen op. En de derde optie, gewoon context in de prompt plakken, zet je er best naast.

Drie manieren om een model je context te geven
PromptingRAGFine-tuning
Wat het doetGeeft context mee in de promptHaalt bij elke vraag de relevante documenten opHertraint het model op je data
Beste voorEenvoudige, afgebakende takenVragen beantwoorden uit grote sets documentenVeranderen hoe het model zich gedraagt of spreekt
Kennis bijwerkenMet de hand, elke keerAutomatisch, je werkt je documenten bijVraagt hertraining
KostZeer laagLaag tot gemiddeldHoog
Nauwkeurigheid op je dataBeperkt door het context windowHoogHoog
Risico op hallucinatiesHogerSterk verminderdVerminderd

Lees enkel de rij over kennis bijwerken en je hebt het grootste deel van het argument. Prompting betekent dat iemand elke keer opnieuw het juiste document erin plakt. Bij fine-tuning zit de kennis ingebakken, dus wie ze wil veranderen, moet hertrainen. Bij RAG werk je het document bij en is het systeem vanaf de volgende vraag weer actueel.

Voor de meeste kennisproblemen in een bedrijf is RAG de juiste aanpak. Fine-tuning is beter geschikt om de stijl, de toon of de domeinspecifieke redenering van het model te veranderen, niet om het toegang te geven tot je documenten. Ze zijn geen concurrenten, en een systeem kan beide gebruiken. Maar slechts één van de twee beantwoordt de vraag "waarom kent het ons eigen beleid niet".

Waar bedrijven RAG vandaag inzetten

Het patroon dat telkens terugkomt, is hetzelfde: een grote hoeveelheid geschreven materiaal, een team dat er sneller antwoorden uit nodig heeft dan lezen toelaat, en een vraag die elke keer in net iets andere woorden gesteld wordt.

  • Interne kennisbanken. Een assistent die vragen van medewerkers beantwoordt uit HR-beleid, IT-documentatie, procesgidsen en interne wiki's. Niet meer zoeken in SharePoint, of het vragen aan een collega die het misschien ook niet weet.
  • Sales enablement. Salesteams die in gewone taal vragen stellen over producten, prijzen, concurrentiepositie of contractvoorwaarden, en meteen een accuraat antwoord krijgen in plaats van te zoeken in een map vol PDF's.
  • Klantendienst. Supportmedewerkers of chatbots die klantvragen beantwoorden door de relevante sectie op te halen uit je productdocumentatie, FAQ of kennisbank. Dat verkort de afhandeltijd en maakt de antwoorden nauwkeuriger.
  • Juridisch en compliance. Zoeken in grote volumes contracten, regelgeving of compliancebeleid om relevante clausules te vinden, verplichtingen te herkennen of mogelijke problemen te markeren, zonder elk document met de hand te lezen.
  • Onderzoek en due diligence. Analisten die vragen stellen over een groot corpus aan rapporten, jaarverslagen of onderzoeksdocumenten, en naar boven halen wat relevant is in plaats van alles van voor naar achter te lezen.
  • Financiële en operationele rapportering. RAG koppelen aan live databronnen, databanken, dashboards en rapporteringstools, zodat bedrijfsleiders in gewone taal vragen kunnen stellen over hun resultaten en antwoorden krijgen die op data steunen.

Beperkingen

RAG heeft duidelijke grenzen. Wie ze kent, bouwt een systeem dat mensen vertrouwen, en niet een systeem dat ze stilletjes links laten liggen.

Waar RAG tekortschiet

Garbage in, garbage out

RAG is maar zo goed als de documenten die het indexeert. Is je interne documentatie onvolledig, verouderd of tegenstrijdig, dan haalt de AI die problemen trouw op en herhaalt ze.

Goede RAG vraagt goede documenthygiëne.

Het chunking-probleem

Documenten worden voor het indexeren in chunks geknipt. Heeft een vraag informatie nodig die uit veel verschillende chunks of documenten samengebracht moet worden, dan kan de retrieval een deel ervan missen.

Slimmere chunkingstrategieën helpen, maar het blijft een ontwerpuitdaging.

Retrieval is niet altijd perfect

Het systeem haalt de inhoud op die semantisch het meest gelijkaardig is, maar het meest gelijkaardige is niet altijd het meest relevante. Een slecht geformuleerde vraag, of een document met andere terminologie dan de vraag, kan de verkeerde inhoud naar boven halen.

Een goed systeemontwerp, testen en het verfijnen van vragen helpen veel.

Beveiliging en toegangsbeheer

Wie bouwt op gevoelige documenten, moet ervoor zorgen dat gebruikers enkel inhoud kunnen ophalen die ze mogen zien. Een financieel document hoort niet op te duiken in een antwoord aan een junior medewerker die iets heel anders vroeg.

RAG met toegangsbeheer vraagt een zorgvuldige architectuur.

Deze vier punten bepalen of een RAG-project slaagt of teleurstelt, en alle vier worden beslist door het ontwerp en niet door het model dat je kiest.

Retrieval is het punt waar een slimmer ontwerp het meest oplevert. Een agentic RAG-systeem redeneert over zijn eigen retrieval: het beslist wanneer het zoekt, beoordeelt het materiaal dat terugkomt en herformuleert de vraag als de resultaten niet goed genoeg zijn. Hoe je er stap voor stap een bouwt, lees je in Een intelligent agentic RAG-systeem bouwen met LangGraph.

Wat dit in de praktijk betekent: kopen of bouwen

Voor de meeste bedrijven is de praktische vraag hoe ze aan RAG geraken. Grofweg zijn er twee routes.

Een product gebruiken waar RAG al in zit. Steeds meer tools hebben RAG ingebouwd, zonder dat je hoeft te weten wat er onder de motorkap gebeurt. Met Notion AI stel je vragen over je hele Notion-workspace, Microsoft Copilot zoekt en haalt op in je Microsoft 365-documenten, Google Gemini in Workspace put uit wat in je Google Drive staat, Intercom Fin beantwoordt supportvragen uit je kennisbank, en ChatGPT met file upload geeft je tijdelijke RAG over de documenten die je toevoegt. Dit is de snelste weg naar waarde uit RAG. De keerzijde: je hebt weinig controle over hoe de retrieval werkt, wat er geïndexeerd wordt en hoe het systeem zich gedraagt.

Een eigen RAG-systeem bouwen. Voor bedrijven met specifieke noden, zoals eigen databronnen, complex toegangsbeheer, integratie met interne systemen of hoge nauwkeurigheid in een gereguleerde context, geeft een implementatie op maat volledige controle. De kernbouwstenen zijn altijd dezelfde vijf:

  • Documentbronnen: je bestanden, databanken en API's
  • Embedding model: zet tekst om in vectoren (OpenAI, Cohere, open source)
  • Vector database: bewaart en doorzoekt de embeddings (Pinecone, Weaviate, pgvector)
  • LLM: genereert het uiteindelijke antwoord (GPT-4o, Claude, Gemini, Llama)
  • Orkestratie: verbindt alles met elkaar (LangChain, LlamaIndex of eigen code)

Hier loont hulp van buitenaf. De architectuurkeuzes in deze fase wegen zwaar door op nauwkeurigheid, kosten en onderhoudbaarheid, en het is een pak goedkoper om ze meteen goed te maken dan om ze later terug te draaien.

De vragen om te stellen voor je bouwt

Welke route je ook kiest, dit zijn de vragen die je best beantwoordt voor er iets gebouwd wordt. Ze bepalen de architectuur meer dan welke toolkeuze ook.

Stel deze vragen voor je bouwt

Tot welke documenten of databronnen heeft het systeem toegang nodig?

Hoe vaak verandert die inhoud, en hoe gaan we met updates om?

Wie heeft toegang nodig, en zijn er documenten die sommige gebruikers niet mogen ophalen?

Hoe ziet "nauwkeurig genoeg" er hier uit? Een supportbot en een compliancetool hebben heel andere vereisten.

Volstaat een kant-en-klaar product, of hebben we een architectuur op maat nodig?

Hoe gaan we nagaan of het echt werkt?

Die laatste wordt het vaakst overgeslagen, en net die vraag vertelt je of alle andere goed beantwoord zijn.

Waar begin je?

Wil je RAG uitproberen voor je je vastlegt op een bouwproject, dan kan dat deze maand nog, met tools die je al hebt.

Week 1. Laad een set interne documenten op in ChatGPT of Claude en stel er vragen over. Dat is RAG in zijn eenvoudigste vorm, en het volstaat om meteen te zien wat het je oplevert.

Week 2 tot 4. Ga na of een tool die je al gebruikt, zoals Microsoft Copilot, Notion AI of Google Workspace, RAG-functies heeft over je bestaande documentenbibliotheek. Zet ze aan en test met de echte vragen die je team geregeld stelt, niet met vragen die je voor de test verzint.

Vanaf maand 2. Is de waarde duidelijk en voldoen de kant-en-klare opties niet, dan is dat het moment om aan een implementatie op maat te denken, met de zes vragen hierboven eerst beantwoord.

Je volgende stap

Benieuwd welke van je documenten een AI zou moeten lezen?

Laten we AI, data en software omzetten in meetbare bedrijfswaarde voor je team.

Laten we praten