Hva er AI-hallusinasjon?
En AI-hallusinasjon er når en AI-modell gir et svar som høres troverdig ut, men som er feil eller rett og slett oppdiktet. Det kan være feil tall, kilder som ikke finnes, personer som tillegges uttalelser de aldri har kommet med, eller feil beskrivelse av produktene og prisene til en bedrift.
Begrepet brukes fordi modellen "ser" noe som ikke er der. Den lyver ikke bevisst, men har ingen innebygd forståelse av hva som er sant.
Hvorfor hallusinerer AI?
En LLM er trent til å produsere sannsynlig tekst, ikke til å sjekke fakta. Når den mangler informasjon, fyller den hullet med det som passer i mønsteret. Risikoen er størst når:
Spørsmålet gjelder nisjetemaer, små bedrifter eller ferske hendelser.
Informasjonen på nettet er motstridende eller utdatert.
Brukeren ber om konkrete detaljer som tall, datoer og sitater.
Modellen svarer uten å hente kilder.
Hvorfor er det viktig for bedrifter?
Hallusinasjoner rammer på to måter. Når du bruker generativ AI i eget arbeid, kan feil slippe gjennom i innhold, rapporter og kundekommunikasjon. Og når kundene spør AI-assistenter om deg, kan de få feil åpningstider, priser eller tjenester. Det kan koste salg og tillit uten at du merker det.
Slik reduserer du risikoen
I eget arbeid:
La en fagperson kvalitetssikre alt som publiseres.
Be modellen oppgi kilder, og sjekk dem.
Bruk løsninger med RAG, der modellen svarer ut fra dine egne dokumenter.
Gi tydelig kontekst og presise instruksjoner.
For omtalen av bedriften:
Publiser tydelig og oppdatert faktainformasjon på nettstedet.
Sørg for at opplysningene er like i Google Bedriftsprofil, kataloger og sosiale medier.
Bygg tillit og tydelig avsender, i tråd med prinsippene i E-E-A-T.
Test jevnlig hva AI-assistentene sier om deg.
Det siste er en del av arbeidet med AI-synlighet: du kan ikke rette direkte i modellene, men du kan påvirke kildene de bygger på.
Finner du feil, start med å rette informasjonen på egne flater og i de mest brukte katalogene. Det tar tid før endringer slår gjennom i svarene, så dokumenter hva modellene sier i dag, og følg med over tid.
Relaterte begreper
LLM: språkmodellene der hallusinasjoner oppstår.
RAG: metoden som lar modellen hente fakta før den svarer.
Generativ AI: teknologien der hallusinasjoner er en kjent svakhet.
E-E-A-T: prinsipper for troverdig innhold som gjør deg til en bedre kilde.
Se alle begrepene i ordboken.