RAG står for Retrieval-Augmented Generation, som kan oversettes til hentingsforsterket generering. Det er en metode der en språkmodell først henter relevant informasjon fra en kilde, for eksempel et søk på nettet eller en dokumentsamling, og deretter bruker denne informasjonen når den skriver svaret. Slik blir svarene mer oppdaterte og presise.
Uten RAG må en LLM svare bare ut fra det den lærte under treningen. Med RAG kan den slå opp før den svarer, omtrent som en rådgiver som sjekker fakta før møtet.
Prosessen skjer på brøkdelen av et sekund, men består av tre steg:
Henting: Systemet søker etter tekst som er relevant for spørsmålet. Ofte lages flere delsøk, se query fan-out.
Utvelgelse: De mest relevante tekstbitene velges ut og legges ved spørsmålet.
Generering: Språkmodellen skriver svaret basert på spørsmålet og det hentede materialet, ofte med kildehenvisninger.
Det er derfor ChatGPT med søk, Perplexity og Googles AI-funksjoner kan vise lenker til kildene sine.
Når AI-søk bruker RAG, er det innholdet som hentes inn som avgjør hva svaret sier. Er nettsiden din blant kildene, kan du bli sitert og lenket. Er den ikke det, blir du sjelden nevnt, uansett hvor god du er. Dette er grunnlaget for GEO.
For å bli hentet inn bør innholdet:
Være tilgjengelig for crawlere og indeksert i søkemotorene.
Svare presist på konkrete spørsmål, gjerne i korte, selvstendige avsnitt.
Inneholde tydelige fakta, tall og definisjoner som er lette å trekke ut.
Ha tydelig avsender og være oppdatert.
Mange bedrifter bruker også RAG internt, for eksempel i en chatbot som svarer ut fra egne produktark, avtaler eller kundeservicedokumenter. Fordelen er at svarene bygger på egne, kontrollerte kilder. Det reduserer risikoen for AI-hallusinasjon, men fjerner den ikke helt. Kvaliteten på dokumentene er avgjørende. Les mer om AI-synlighet.
Er dokumentene utdaterte, motstridende eller dårlig strukturert, blir svarene det også. Et RAG-prosjekt starter derfor ofte med å rydde i kildene, fjerne gamle versjoner og skrive tydelige tekster som svarer på de vanligste spørsmålene.
LLM: språkmodellen som skriver svaret i en RAG-løsning.
GEO: arbeidet med å bli valgt som kilde når AI-søk henter informasjon.
AI-hallusinasjon: feil som RAG kan bidra til å redusere.
Query fan-out: teknikken som lager mange delsøk i hentingssteget.
Se alle begrepene i ordboken.