En KI-hallusinasjon er når en KI presenterer noe usant som om det er helt sant. Den finner på fakta, dikter opp kilder eller oppgir feil tall – og gjør det med full overbevisning, som om den er helt sikker.
Ordet «hallusinasjon» er egentlig litt misvisende. KI-en «ser» ikke ting som ikke er der. Den bare skriver det som «høres riktig ut» – selv om det er feil.
Eksempler på ting KI finner på
- Du ber om tre kilder til et emne – den gir deg titler og forfatternavn, men bøkene finnes ikke.
- Du spør hva en politiker sa – den dikter opp et sitat de aldri har sagt.
- Du ber om historiske årstall – den gir deg feil tall, men presenterer det selvsikkert.
- Du ber om juridisk hjelp – den refererer til lovparagrafer som ikke eksisterer.
Hvorfor skjer det?
Språkmodeller velger det neste ordet basert på hva som virker mest naturlig – ikke hva som er sant. De har ingen innebygd sjekk mot virkeligheten.
Når KI-en ikke vet svaret, gjetter den ikke bevisst. Den skriver rett og slett det som «høres riktig ut» basert på det den har lest før. Og fordi den har lest masse tekst der svar presenteres med selvsikkerhet, gjør den det samme – selv når svaret er feil.
Hva finner KI oftest på?
- Kilder og forskning – svært stor sjanse for feil
- Sitater fra kjente folk – stor sjanse for feil
- Årstall og tall – middels sjanse for feil
- Fakta om lite kjente emner – stor sjanse for feil
- Juridiske og medisinske detaljer – stor sjanse for feil
- Vanlig kunnskap om kjente temaer – liten sjanse for feil, men fortsatt mulig
Slik unngår du å bli lurt
- Ikke stol blindt på kilder. Sjekk alltid at artikler og bøker KI-en nevner faktisk finnes.
- Be KI-en si «jeg vet ikke». Skriv: «Hvis du ikke er sikker, si det.» Det hjelper.
- Bruk KI med tilgang til internett for faktaspørsmål. Da henter den fra ekte kilder.
- Sjekk tall, datoer og navn i andre kilder.
- Still oppfølgingsspørsmål: «Er du sikker? Hvor har du dette fra?» – noen ganger innrømmer den at den er usikker.
Vanlige spørsmål
-
Vil dette problemet forsvinne?
Nyere modeller finner på mindre, og teknikker som RAG (henting av ekte kilder) hjelper mye. Men det forsvinner nok aldri helt – det er en grunnleggende ting ved hvordan språkmodeller fungerer.
-
Lyver KI-en med vilje?
Nei. KI-en har ingen intensjoner. Den vet ikke hva som er sant eller usant – den bare skriver det som virker mest naturlig ut fra mønstrene den har lært.
-
Er noen KI-modeller bedre enn andre?
Ja. Nyere og større modeller med tilgang til internett finner på mye mindre enn eldre modeller. Men ingen er helt feilfrie.