AI og himlen

AI-hallucinationer: Når maskinen finder på ting

En AI-hallucination er et flydende, selvsikkert svar fra en sprogmodel, som er forkert eller opdigtet. Modellen genererer sandsynlig tekst i stedet for at kontrollere fakta, så til planeters positioner, datoer for formørkelser og kilder er det tryggest at støtte sig til beregning og primære publikationer.

Enhver, der har chattet med en AI-assistent, har oplevet øjeblikket, hvor et svar lyder detaljeret, roligt og overbevisende, og så viser det sig at være forkert. Det kaldes en AI-hallucination. Her forklarer vi, hvad det betyder, hvordan det kan dukke op i spørgsmål om himlen, og hvordan Astronativa beskytter sig mod det.

Hvad en hallucination er

En stor sprogmodel (LLM) er et program, der er trænet på enorme mængder tekst. Dens kerneopgave er at fortsætte en tekst på den mest sandsynlige måde. Den rummer ikke fakta, sådan som et leksikon eller en database gør; den har lært, hvordan ord plejer at optræde ved siden af hinanden.

Derfor kan den producere en sætning, der er glat og grammatisk korrekt, men som ikke stemmer med virkeligheden. Det er en hallucination: et selvsikkert, men forkert eller helt opdigtet svar. Ordet er en metafor. Modellen lyver ikke med vilje, for den har ingen hensigt om at bedrage. Den skelner simpelthen ikke mellem »lyder rigtigt« og »er rigtigt«. AI-udviklere og forskningsinstitutioner diskuterer problemet åbent og arbejder på at mindske det, men ingen hævder, at det er forsvundet. Du kan læse mere i hvad AI kan og ikke kan.

Typiske eksempler fra himlen

Astronomi er fuld af tal, datoer og navne, og det er netop dér, fejl let sniger sig ind:

• Forkerte datoer. En model kan angive en forkert dato for en formørkelse, et jævndøgn eller toppen af et meteorsvær, fordi den slags datoer ofte optræder i dens træningstekst, og den gætter på en sandsynlig.
• En forkert planetposition. Spørger du, hvilket tegn Mars står i på en bestemt dag, kan en model svare med selvtillid uden at have beregnet noget. En planets position er resultatet af en beregning, ikke en husket sætning.
• Opdigtede kilder. Nogle gange henviser en model til en artikel, en forfatter eller en webadresse, der lyder realistisk, men ikke findes. Det er en af de mest kendte former for hallucination.
• Blandede begreber. Et astronomisk faktum og en astrologisk påstand kan smelte sammen i én sætning, fx »Merkur retrograd skaber problemer«. Retrograd bevægelse er en tilsyneladende bevægelse forårsaget af perspektiv, fordi Jorden og den anden planet bevæger sig i deres baner med forskellig hastighed; at knytte den til begivenheder hører til den astrologiske tradition og er ikke et fastslået faktum. Læs mere i astronomi vs. astrologi.
• Falsk præcision. En model kan give et tal med mange decimaler, som ser videnskabeligt ud, men er opfundet.

Hvorfor Astronativa ikke »spørger« AI om positioner

Positionerne af Solen, Månen og planeterne er ikke et spørgsmål om mening eller hukommelse. De bliver beregnet. Astronomer bruger efemerider (tabeller eller matematiske modeller, der angiver himmellegemers positioner på ethvert tidspunkt). Videnskabelige institutioner som NASA’s JPL udgiver den slags data, og deres ressourcer om solsystemets dynamik findes på ssd.jpl.nasa.gov.

Derfor følger Astronativa et enkelt princip: tal kommer fra beregning, ord kommer fra forklaring. Planeternes positioner til den 3D-himmel og til fødselshoroskoper beregnes med efemerider og astronomiske formler. Når AI er involveret, hjælper den med at forklare, oversætte eller genfortælle det, der allerede er beregnet; den opfinder ikke positionerne. Du finder detaljerne i efemerider og nøjagtighed og beregning versus fortælling.

Tænk på forskellen mellem en lommeregner og en fortæller. Lommeregneren giver det samme korrekte resultat hver gang; fortælleren kan pynte på det. Begge er nyttige, til hver sin opgave.

Sådan opdager og tjekker du et tvivlsomt svar

Nogle få enkle vaner gør en stor forskel:

1. Stol ikke på tonen. Selvsikkerhed er ikke bevis. Glat tekst kan være forkert.
2. Find en anden kilde. Tjek datoen for en formørkelse eller en månefase på en side fra NASA eller ESA eller på en anden videnskabelig institutions websted.
3. Kontrollér henvisninger. Hvis et svar nævner en bog, en forfatter eller et link, så åbn det. Hvis det ikke findes eller ikke siger det, der påstås, så lad være med at bruge det.
4. Vær på vagt over for meget præcise tal. Spørg, hvor de kommer fra. Hvis der ikke er en klar oprindelse, så behandl dem med forsigtighed.
5. Skeln mellem fakta og fortolkning. Spørg dig selv: Er det en måling, eller en fortolkning fra en tradition? Sådan skelner du fakta fra fortolkning kan hjælpe.
6. Stil bedre spørgsmål. Et konkret spørgsmål med dato, tidspunkt og sted levner mindre plads til gætterier. Se sådan spørger du AI om himlen.
7. Tillad »det ved jeg ikke«. Bed udtrykkeligt modellen om at sige det, når den er i tvivl.

For en bredere ramme, se AI-faktatjek.

En rolig indstilling

Hallucinationer gør ikke AI ubrugelig. Den er god til at forklare, opsummere og oversætte, så længe vi ikke gør den til kilde for målte data. Den sundeste tilgang er at behandle den som en flittig assistent: lyt med interesse, men kontrollér de vigtige tal. Himlen bliver, hvor den er, og vi kan altid sammenligne med videnskab, observation og en smule tålmodighed.

Positionerne i Astronativa er astronomisk nøjagtige. Fortolkningen er til inspiration. · Ordliste · Vilkår · Privatliv · Tak