AI-hallucination: 7 tegn på et opdigtet svar

Du beder en chatbot om en hurtig forklaring, og svaret kommer prompte: velformuleret, godt disponeret og med en selvsikkerhed, som de færreste mennesker kan hamle op med. Problemet er, at et sprogligt overbevisende svar ikke nødvendigvis er et korrekt svar. En AI-hallucination er, når en sprogmodel præsenterer noget opdigtet, som var det et faktum — og fordi formen er upåklagelig, glider indholdet let igennem uden at blive kontrolleret.

Den gode nyhed er, at hallucinationer sjældent er usynlige. De efterlader spor. Her får du syv tegn, du kan lære at genkende, og et par vaner, der gør det hurtigt at tjekke efter, før du bruger svaret til noget.

Hvorfor finder en sprogmodel på indhold?

En sprogmodel er trænet til at forudsige, hvilket stykke tekst der sandsynligvis kommer som det næste. Den slår ikke op i en facitliste, og den har ingen indbygget fornemmelse af, hvad den ved, og hvad den ikke ved. Når der mangler dækning for et spørgsmål, stopper den ikke op og siger fra — den producerer det svar, der ser mest sandsynligt ud. Resultatet kan være et navn, et årstal eller en paragrafhenvisning, der virker fuldstændig plausibel, men som ikke findes.

Mange værktøjer kan i dag søge på nettet eller kigge i dine egne dokumenter undervejs, og det mindsker problemet mærkbart. Men det fjerner det ikke. Modellen kan stadig misforstå en kilde, blande to kilder sammen eller selv udfylde hullerne, hvis kilden ikke svarer på præcis det, du spurgte om.

Kort forklaret

En hallucination er ikke løgn i menneskelig forstand. Modellen har ingen hensigt og ved ikke, at den tager fejl. Den leverer det sprogligt mest sandsynlige svar — og det sprogligt mest sandsynlige er ikke altid det sande.

7 tegn på, at svaret er opdigtet

1. Meget præcise detaljer uden noget at holde dem op imod

Jo mere specifikt et svar er — procenter, årstal, sidetal, paragraffer — desto mere bør du kunne kontrollere det. Opdigtede detaljer er ofte netop meget præcise, fordi præcision lyder troværdigt. Kan du ikke genfinde oplysningen ved et almindeligt opslag, skal du behandle den som ubekræftet, uanset hvor overbevisende den er formuleret.

2. Henvisninger, der ikke kan findes

Det er det klassiske tegn. Rapporttitler, forfatternavne og links kan være sat sammen af dele, der hver for sig lyder rigtige, men som tilsammen peger på noget, der aldrig er udgivet. Åbn henvisningen. Findes den ikke, eller står der noget helt andet, end der bliver påstået, er den ikke et halvt belæg — den er intet belæg.

3. Svaret ændrer sig, når du spørger igen

Stil det samme spørgsmål i en helt ny samtale, gerne formuleret lidt anderledes. Faktuel viden plejer at være stabil. Får du tre forskellige årstal i tre forsøg, er der ikke tale om viden, men om kvalificeret gætteri — og så skal svaret bekræftes et andet sted.

4. Modellen giver dig ret, så snart du protesterer

Prøv at sige, at du tvivler på svaret — også i tilfælde, hvor det faktisk er korrekt. Skifter modellen omgående mening og leverer en ny, lige så selvsikker forklaring, er svaret ikke forankret i noget solidt. En sprogmodel har det med at føje den, der spørger, og derfor kan din egen formulering påvirke, hvad du får ud af den.

5. Emnet er nyt, smalt eller udpræget lokalt

Risikoen stiger markant, når du spørger til noget, der lige er sket, til danske regler, satser og frister eller til et meget snævert fagområde. Der findes ganske enkelt mindre materiale bag den slags svar, og modellen skal derfor selv udfylde mere.

6. Sproget er glat, men indholdet er tomt

Læs efter, om svaret rent faktisk siger noget. Lange, velskrevne afsnit uden konkret indhold, gentagelser af dit eget spørgsmål i nye ord og runde formuleringer som “det afhænger af flere faktorer” er ofte et forsøg på at skjule, at der ikke er dækning for svaret.

7. Regnestykket holder ikke, når du tjekker efter

Sprogmodeller kan beskrive en fremgangsmåde helt korrekt og alligevel snuble i mellemregninger, enheder eller datoer. Tjek selv de tal, du skal bruge til noget — særligt omregninger mellem enheder og udregninger med flere trin, hvor en enkelt fejl forplanter sig til hele resultatet.

Fire hurtige tjek, der fanger det meste

• Bed om kilder — og åbn dem. Findes de, og står der det, svaret påstår?
• Stil spørgsmålet forfra i en ny samtale, og se, om svaret er det samme.
• Slå de bærende oplysninger op ét sted mere, helst hos den myndighed eller organisation, der ejer tallet eller reglen.
• Bed modellen om at udpege, hvad den er mest usikker på. Det er ikke et bevis, men det peger ofte lige ned i de svage punkter.

Pro-tip: Giv modellen lov til ikke at vide noget. Skriv fx: “Hvis du ikke har dækning for det, så skriv det i stedet for at gætte.” Det fjerner ikke hallucinationer, men det gør det tit lettere at se, hvor svaret står svagt.

Hvornår det gør mest ondt

Et forkert svar om en filmhandling koster ingenting. Andre steder er konsekvensen en anden, og her bør et genereret svar altid betragtes som et udkast, du skal have bekræftet:

• Sundhed, medicin og dosering
• Regler, frister, satser og alt juridisk
• Økonomiske beslutninger og beregninger
• It-sikkerhed og opsætning af systemer
• Citater og påstande om navngivne, virkelige personer

Særligt ved spørgsmål om sikkerhed bør du hente vejledningen hos myndighederne frem for at læne dig op ad et genereret svar. Center for Cybersikkerhed og Digitaliseringsstyrelsen udgiver løbende opdaterede råd til både private og virksomheder, og de er skrevet ud fra det aktuelle trusselsbillede — noget, en sprogmodel ikke nødvendigvis har med.

Opsummering

En AI-hallucination afslører sig sjældent ved sproget, for sproget er netop det, modellen er bedst til. Den afslører sig ved detaljerne: henvisninger, der ikke findes, tal, der ikke kan genfindes, svar, der skifter fra gang til gang, og en påfaldende villighed til at give dig ret. Brug værktøjerne til det, de er gode til — at forklare, strukturere, skrive udkast og oversætte — og hold fast i, at alt, du skal handle på, skal bekræftes ét sted mere. Det tager sjældent mere end et minut, og det er den vane, der afgør, om AI bliver en hjælp eller en fejlkilde i din hverdag.