KI og himmelen

KI-hallusinasjoner: når maskinen finner på ting

En KI-hallusinasjon er et flytende og selvsikkert svar fra en språkmodell som er feil eller oppdiktet. Modellen genererer sannsynlig tekst i stedet for å kontrollere fakta, så for planetposisjoner, datoer for formørkelser og kilder er det tryggest å stole på beregninger og primærpublikasjoner.

Alle som har pratet med en KI-assistent, har opplevd øyeblikket da et svar høres detaljert, rolig og overbevisende ut, og så viser det seg å være feil. Dette kalles en KI-hallusinasjon. Her forklarer vi hva det betyr, hvordan det kan dukke opp i spørsmål om himmelen, og hvordan Astronativa beskytter seg mot det.

Hva en hallusinasjon er

En stor språkmodell (LLM) er et program som er trent på enorme mengder tekst. Kjerneoppgaven er å fortsette en tekst på den mest sannsynlige måten. Den lagrer ikke fakta slik et leksikon eller en database gjør; den har lært hvordan ord pleier å opptre ved siden av hverandre.

Derfor kan den lage en setning som er glatt og grammatisk riktig, men som ikke stemmer med virkeligheten. Det er en hallusinasjon: et selvsikkert, men feilaktig eller helt oppdiktet svar. Ordet er en metafor. Modellen lyver ikke med vilje, for den har ingen hensikt om å lure. Den skiller rett og slett ikke mellom «høres riktig ut» og «er riktig». KI-utviklere og forskningsinstitusjoner snakker åpent om dette problemet og arbeider for å redusere det, men ingen hevder at det er borte. For et større bilde, se hva KI kan og ikke kan.

Typiske eksempler fra himmelen

Astronomi er full av tall, datoer og navn, og det er nettopp der feil er lumske:

• Feil datoer. En modell kan oppgi en uriktig dato for en formørkelse, et jevndøgn eller toppen av et meteorsvermen, fordi slike datoer ofte forekommer i treningsteksten, og den gjetter på en sannsynlig en.
• Feil planetposisjon. Spør du hvilket tegn Mars står i en bestemt dag, kan en modell svare selvsikkert uten å regne ut noe. En planets posisjon er resultatet av en beregning, ikke en setning man husker.
• Oppdiktede kilder. Noen ganger viser en modell til en artikkel, en forfatter eller en nettadresse som høres realistisk ut, men som ikke finnes. Dette er en av de mest kjente formene for hallusinasjon.
• Sammenblandede begreper. Et astronomisk faktum og en astrologisk påstand kan smelte sammen i én setning, for eksempel «Merkur retrograd skaper problemer». Retrograd bevegelse er en tilsynelatende bevegelse som skyldes perspektiv, fordi Jorden og den andre planeten beveger seg i banene sine med ulik hastighet. Å knytte den til hendelser hører til den astrologiske tradisjonen og er ikke et etablert faktum. Les mer i astronomi og astrologi.
• Falsk presisjon. En modell kan oppgi et tall med mange desimaler som ser vitenskapelig ut, men som er funnet på.

Hvorfor Astronativa ikke «spør» KI om posisjoner

Posisjonene til Solen, Månen og planetene er ikke et spørsmål om mening eller hukommelse. De beregnes. Astronomer bruker efemerider (tabeller eller matematiske modeller som gir posisjonene til himmellegemer til et gitt tidspunkt). Vitenskapelige institusjoner som NASAs JPL publiserer slike data, og ressursene deres om solsystemets dynamikk finnes på ssd.jpl.nasa.gov.

Derfor følger Astronativa et enkelt prinsipp: tallene kommer fra beregning, ordene kommer fra forklaring. Planetposisjonene for den 3D-baserte himmelen og for fødselshoroskop beregnes med efemerider og astronomiske formler. Når KI er involvert, hjelper den med å forklare, oversette eller gjenfortelle det som allerede er beregnet; den finner ikke på posisjonene. Detaljer finner du i efemerider og nøyaktighet og beregning kontra fortelling.

Tenk på forskjellen mellom en kalkulator og en forteller. Kalkulatoren gir det samme riktige resultatet hver gang; fortelleren kan pynte på det. Begge er nyttige, til ulike oppgaver.

Slik oppdager og sjekker du et tvilsomt svar

Noen enkle vaner hjelper langt:

1. Ikke stol på tonen. Selvsikkerhet er ikke bevis. Glatt tekst kan være feil.
2. Finn en andre kilde. Sjekk datoen for en formørkelse eller en månefase på en side fra NASA eller ESA, eller hos en annen vitenskapelig institusjon.
3. Kontroller henvisninger. Hvis et svar nevner en bok, en forfatter eller en lenke, åpne den. Hvis den ikke finnes eller ikke sier det som påstås, bør du ikke bruke den.
4. Vær skeptisk til svært presise tall. Spør hvor de kommer fra. Hvis opprinnelsen er uklar, behandle dem med forsiktighet.
5. Skill fakta fra tolkning. Spør deg selv: er dette en måling, eller en tolkning fra en tradisjon? Slik skiller du fakta fra tolkning kan hjelpe.
6. Still bedre spørsmål. Et konkret spørsmål med dato, klokkeslett og sted gir mindre rom for gjetting. Se hvordan du spør KI om himmelen.
7. Tillat «jeg vet ikke». Be modellen uttrykkelig si fra når den er usikker.

For et bredere rammeverk, se faktasjekk av KI.

En rolig holdning

Hallusinasjoner gjør ikke KI ubrukelig. Den er god til å forklare, oppsummere og oversette, så lenge vi ikke gjør den til kilde for målte data. Den sunneste tilnærmingen er å behandle den som en flittig assistent: lytt med interesse, men kontroller de viktige tallene. Himmelen blir der den er, og vi kan alltid sammenligne med vitenskap, observasjon og litt tålmodighet.

Posisjonene i Astronativa er astronomisk nøyaktige. Tolkningen er til inspirasjon. · Ordliste · Vilkår · Personvern · Takk