Hva er finjustering?
Finjustering, på engelsk fine-tuning, betyr å ta en ferdig trent AI-modell og trene den videre på et mindre, utvalgt datasett. Modellen beholder sin generelle kunnskap, men lærer et bestemt mønster: en tone, et format eller en spesialisert oppgave. Resultatet er en tilpasset versjon av modellen som oppfører seg mer forutsigbart.
En LLM er først trent på enorme mengder tekst. Finjustering er det siste, mye mindre steget, der du viser modellen hundrevis eller tusenvis av eksempler på ønsket input og output.
Finjustering vs RAG vs prompting
Det finnes tre vanlige måter å tilpasse en språkmodell på, og de løser ulike problemer:
Prompting: du gir instruksjoner og eksempler i hver prompt. Raskt, billig og fleksibelt. Bør nesten alltid prøves først.
RAG: modellen henter fakta fra dine egne dokumenter før den svarer. Best når svaret må bygge på oppdatert eller bedriftsspesifikk kunnskap.
Finjustering: modellen lærer en atferd. Best når du trenger konsekvent stil, struktur eller klassifisering i stort volum.
En vanlig misforståelse er at finjustering er riktig måte å "lære modellen" fakta om bedriften på. Fakta endrer seg, og en finjustert modell oppdateres ikke av seg selv. Til kunnskap er RAG som regel et bedre valg.
Når lønner finjustering seg?
Når dere har mange like oppgaver, for eksempel kategorisering av kundehenvendelser eller produktdata.
Når tonen må være svært konsekvent, og lange instruksjoner i hver prompt ikke gir stabilt nok resultat.
Når dere vil bruke en mindre og billigere modell som skal prestere som en større på én smal oppgave.
Når dere har et godt datasett med eksempler av høy kvalitet.
Finjustering krever arbeid: datasettet må lages, rengjøres og testes, og modellen må evalueres. Personopplysninger og fortrolige data må håndteres i tråd med GDPR.
Vanlige feil
Å finjustere før man har testet godt skrevne prompter.
For få eller for dårlige eksempler, som gir en modell som gjentar feil.
Å forvente at modellen husker ferske fakta.
Ingen plan for evaluering, slik at man ikke vet om resultatet er bedre.
Trenger dere hjelp til å velge riktig tilnærming for AI i markedsarbeidet, er det lurt å starte med en enkel kartlegging av oppgaver og data.
Relaterte begreper
LLM: grunnmodellen som finjusteres.
RAG: alternativ tilnærming som henter fakta i stedet for å trene dem inn.
Prompt: instruksjoner som ofte løser behovet uten finjustering.
Generativ AI: typen AI som finjusteres for å lage innhold.
Se alle begrepene i ordboken.