Kan man stole på AI? Derfor kan ChatGPT og andre AI-værktøjer tage fejl
Kan man stole på AI? Derfor kan ChatGPT og andre AI-værktøjer tage fejl
ChatGPT og andre AI-værktøjer kan give imponerende svar på få sekunder.
Du kan stille et spørgsmål om næsten hvad som helst og få et svar, der lyder både sikkert, detaljeret og professionelt.
Men der er én vigtig ting at huske:
Et overbevisende AI-svar er ikke nødvendigvis et korrekt AI-svar.
AI kan tage fejl. Den kan misforstå dit spørgsmål, bruge forældede oplysninger eller i nogle tilfælde give dig information, som ganske enkelt ikke passer.
Det betyder ikke, at du ikke kan stole på eller bruge AI. Men du skal vide, hvornår du bør kontrollere svaret.
Hvorfor kan ChatGPT tage fejl?
ChatGPT fungerer ikke som et traditionelt opslagsværk med et facit til hvert spørgsmål.
AI-modeller er trænet til at forstå mønstre i store mængder information og generere et svar ud fra din forespørgsel og den information, de har adgang til.
Det betyder, at ChatGPT kan formulere et meget overbevisende svar uden at have en garanti for, at alle detaljer er korrekte.
Problemet er, at fejlen ikke nødvendigvis er tydelig.
ChatGPT skriver ikke altid:
"Det her er jeg usikker på."
Svaret kan se fuldstændig troværdigt ud.
Når AI opfinder et svar
Du vil nogle gange høre udtrykket AI-hallucination.
Det betyder ikke, at AI ser eller oplever noget. Det er et udtryk for situationer, hvor en AI-model genererer oplysninger, der lyder plausible, men som ikke er korrekte eller ikke kan underbygges.
Det kan eksempelvis være:
En bog, der ikke eksisterer.
Et forkert årstal.
En person, der får tillagt et citat, vedkommende aldrig har sagt.
En henvisning til en undersøgelse, som ikke findes.
Eller en funktion i et computerprogram, som AI påstår findes, men som faktisk ikke gør.
Det farlige er ikke nødvendigvis selve fejlen.
Det er, hvor troværdigt den kan blive præsenteret.
Et simpelt eksempel
Forestil dig, at du spørger en AI:
"Hvem opfandt denne teknologi, og hvilket år skete det?"
AI'en giver dig straks et navn, et årstal og en forklaring.
Det ser rigtigt ud.
Men hvis spørgsmålet handler om et meget smalt eller dårligt dokumenteret emne, kan enkelte detaljer være forkerte.
Hvis du bare skal tilfredsstille din nysgerrighed, er konsekvensen måske begrænset.
Men hvis oplysningerne skal bruges i en skoleopgave, artikel eller professionel rapport, bør du kontrollere dem.
AI er bedre til nogle opgaver end andre
Det er vigtigt at skelne mellem forskellige typer opgaver.
Hvis du skriver:
"Gør denne tekst mere venlig og professionel."
er der ikke nødvendigvis ét korrekt facit.
Her kan ChatGPT være særdeles nyttig.
Det samme gælder brainstorming, idéudvikling, opsummering, strukturering og hjælp til formulering.
Men hvis du spørger:
"Hvor meget skal jeg betale i skat efter denne regel?"
er situationen anderledes.
Nu afhænger svaret af korrekte og aktuelle oplysninger.
Jo større konsekvensen af en fejl er, desto vigtigere er det derfor at kontrollere AI'ens svar.
Hvornår skal du være ekstra forsigtig?
Der er nogle områder, hvor du ikke bør nøjes med et AI-svar.
Det gælder især sundhed, medicin, jura, skat, økonomi og andre vigtige beslutninger.
AI kan stadig være nyttig på disse områder.
Du kan eksempelvis bruge ChatGPT til at få forklaret et svært begreb eller til at finde ud af, hvilke spørgsmål du bør undersøge nærmere.
Men den endelige information bør kontrolleres hos en relevant og troværdig kilde eller fagperson.
Det samme gælder oplysninger, der hurtigt kan ændre sig.
Priser, regler, softwarefunktioner, politiske poster, åbningstider og aktuelle begivenheder kan være anderledes i dag end for få måneder siden.
Hvad hvis ChatGPT søger på nettet?
ChatGPT kan søge efter aktuelle oplysninger på internettet.
Det gør det muligt at få svar baseret på nyere information og samtidig se kilder, som du selv kan undersøge.
Men det fjerner ikke behovet for kritisk sans.
En kilde på internettet kan også være forkert, forældet eller misvisende.
Derfor er spørgsmålet ikke kun:
"Har AI fundet en kilde?"
men også:
"Er det en god kilde?"
Hvis du undersøger danske skatteregler, vil information direkte fra Skattestyrelsen eksempelvis normalt veje tungere end et tilfældigt blogindlæg om skat.
Sådan kontrollerer du et AI-svar
Du behøver ikke faktatjekke hvert eneste ord, ChatGPT skriver.
Bruger du AI til at finde idéer til aftensmad eller skrive en fødselsdagshilsen, vil det normalt være overdrevet.
Men hvis fakta har betydning, kan du bruge nogle simple vaner:
Bed om kilder. Hvis svaret indeholder konkrete faktuelle påstande, kan du bede AI om at finde dokumentation.
Åbn kilden selv. Kontrollér, at kilden faktisk siger det, AI påstår.
Brug den oprindelige kilde. Regler bør eksempelvis kontrolleres hos den relevante myndighed.
Kontrollér datoen. Et korrekt svar fra 2024 kan være forkert i 2026.
Spørg igen på en anden måde. Hvis et svar virker mærkeligt, så bed AI om at gennemgå sin konklusion og fortælle, hvilke dele den er mest usikker på.
Kan man få ChatGPT til at sige "jeg ved det ikke"?
Du kan hjælpe AI'en ved at formulere din prompt bedre.
Prøv eksempelvis:
"Hvis du ikke ved det med sikkerhed, skal du sige det i stedet for at gætte."
Eller:
"Brug aktuelle kilder til at besvare spørgsmålet, og vis mig, hvor oplysningerne kommer fra."
Det er en god vane, men det er ikke en garanti mod fejl.
Du skal stadig selv vurdere svaret, når oplysningerne er vigtige.
Skal man så overhovedet stole på AI?
Ja – men ikke blindt.
Det kan sammenlignes med at få hjælp fra en meget hurtig assistent.
Assistenten kan hjælpe med at skrive, forklare, strukturere, undersøge, sammenligne og komme med idéer.
Men hvis assistenten fortæller dig noget vigtigt, vil du stadig kontrollere det, før du træffer en stor beslutning.
Det samme princip fungerer godt med AI.
Brug AI til at hjælpe dig med at tænke – ikke til at overtage din kritiske sans.
AI bliver bedre, men kritisk sans bliver ikke overflødig
AI-modeller bliver løbende bedre til at besvare spørgsmål, bruge værktøjer og finde aktuelle oplysninger.
Det betyder dog ikke, at fejl forsvinder fuldstændigt.
Faktisk kan bedre AI gøre kritisk sans endnu vigtigere.
Jo mere naturligt og professionelt et svar lyder, desto lettere kan det være at glemme at spørge:
"Hvordan ved jeg egentlig, at det her er rigtigt?"
Det er et af de vigtigste spørgsmål at tage med sig, når man bruger kunstig intelligens.
Konklusion
ChatGPT og andre AI-værktøjer kan være fantastiske hjælpemidler.
Men de er ikke ufejlbarlige.
Brug dem gerne til at skrive, lære, få idéer, undersøge muligheder, analysere information og løse praktiske opgaver.
Når et svar indeholder oplysninger, der kan have betydning for din økonomi, sundhed, arbejde, uddannelse eller andre vigtige beslutninger, bør du kontrollere dem.
En god tommelfingerregel er:
Jo større konsekvensen af en fejl er, desto vigtigere er det at kontrollere svaret.
AI kan gøre meget af arbejdet lettere.
Men den sidste vurdering er stadig din.
Kommentarer