AI och himlen

AI-hallucinationer: när maskinen hittar på

En AI-hallucination är ett flytande, självsäkert svar från en språkmodell som är felaktigt eller påhittat. Modellen genererar trovärdig text snarare än att kontrollera fakta, så för planeters positioner, förmörkelsedatum och källor är det tryggast att lita på beräkningar och primärpublikationer.

Alla som har pratat med en AI-assistent har varit med om det: svaret låter detaljerat, lugnt och övertygande, och visar sig sedan vara fel. Det kallas en AI-hallucination. Här förklarar vi vad det betyder, hur det kan dyka upp i frågor om himlen och hur Astronativa skyddar sig mot det.

Vad en hallucination är

En stor språkmodell (LLM) är ett program som tränats på enorma mängder text. Dess grundläggande uppgift är att fortsätta en text på det mest sannolika sättet. Den lagrar inte fakta som en encyklopedi eller en databas gör; den har lärt sig hur ord brukar förekomma intill varandra.

Därför kan den skapa en mening som är mjuk och grammatiskt korrekt men inte stämmer med verkligheten. Det är en hallucination: ett självsäkert men felaktigt eller helt påhittat svar. Ordet är en metafor. Modellen ljuger inte med avsikt, eftersom den inte har någon avsikt att lura. Den skiljer helt enkelt inte på ”låter rätt” och ”är rätt”. AI-utvecklare och forskningsinstitutioner diskuterar problemet öppet och arbetar för att minska det, men ingen hävdar att det har försvunnit. För den större bilden, se vad AI kan och inte kan göra.

Typiska exempel från himlen

Astronomi är full av siffror, datum och namn, och det är precis där felen lätt smyger sig in:

• Felaktiga datum. En modell kan ange fel datum för en förmörkelse, en dagjämning eller toppen av ett meteorregn, eftersom sådana datum ofta förekommer i träningstexterna och modellen gissar ett trovärdigt.
• En felaktig planetposition. På frågan vilket tecken Mars står i en viss dag kan en modell svara självsäkert utan att beräkna något. En planets position är resultatet av en beräkning, inte en memorerad mening.
• Påhittade källor. Ibland hänvisar en modell till en artikel, en författare eller en webbadress som låter verklig men inte finns. Det är en av de mest kända formerna av hallucination.
• Blandade begrepp. Ett astronomiskt faktum och ett astrologiskt påstående kan smälta ihop i en mening, till exempel ”Merkurius retrograd orsakar problem”. Retrograd rörelse är en skenbar rörelse som beror på perspektiv, eftersom Jorden och den andra planeten rör sig längs sina banor med olika hastighet; att koppla den till händelser hör till den astrologiska traditionen och är inte ett etablerat faktum. Läs mer i astronomi och astrologi – skillnaden.
• Falsk precision. En modell kan ange ett tal med många decimaler som ser vetenskapligt ut men är påhittat.

Varför Astronativa inte ”frågar” AI om positioner

Solens, Månens och planeternas positioner är inte en fråga om åsikt eller minne. De beräknas. Astronomer använder efemerider (tabeller eller matematiska modeller som anger himlakropparnas positioner vid varje given tidpunkt). Vetenskapliga institutioner som NASA:s JPL publicerar sådana data, och deras resurser om solsystemets dynamik finns på ssd.jpl.nasa.gov.

Därför följer Astronativa en enkel princip: siffrorna kommer från beräkning, orden kommer från förklaring. Planeternas positioner för den 3D-formade himlen och för födelsehoroskop beräknas med efemerider och astronomiska formler. När AI är inblandad hjälper den till att förklara, översätta eller återberätta det som redan har beräknats; den hittar inte på positionerna. Detaljer finns i efemerider och noggrannhet och beräkning och berättelse.

Tänk på skillnaden mellan en miniräknare och en berättare. Miniräknaren ger samma korrekta resultat varje gång; berättaren kan brodera ut. Båda är användbara, men för olika uppgifter.

Så upptäcker och kontrollerar du ett tvivelaktigt svar

Några enkla vanor gör stor skillnad:

1. Lita inte på tonen. Självsäkerhet är inget bevis. Mjuk text kan vara fel.
2. Hitta en andra källa. Kontrollera ett förmörkelsedatum eller en månfas på en sida från NASA eller ESA, eller hos en annan vetenskaplig institution.
3. Verifiera hänvisningar. Om ett svar nämner en bok, en författare eller en länk, öppna den. Om den inte finns eller inte säger det som påstås, använd den inte.
4. Var försiktig med mycket precisa tal. Fråga var de kommer ifrån. Om ursprunget är oklart, behandla dem med försiktighet.
5. Skilj fakta från tolkning. Fråga dig: är detta en mätning eller en tolkning ur en tradition? Så skiljer du fakta från tolkning kan hjälpa.
6. Ställ bättre frågor. En specifik fråga med datum, tid och plats lämnar mindre utrymme för gissningar. Se hur du frågar AI om himlen.
7. Tillåt ”jag vet inte”. Be modellen uttryckligen att säga det när den är osäker.

För ett bredare ramverk, se AI-faktakontroll.

Ett lugnt förhållningssätt

Hallucinationer gör inte AI oanvändbart. Den är bra på att förklara, sammanfatta och översätta, så länge vi inte gör den till källa för uppmätta data. Det sundaste är att behandla den som en flitig assistent: lyssna med intresse, men kontrollera de viktiga siffrorna. Himlen finns kvar där den är, och vi kan alltid jämföra med vetenskap, observation och lite tålamod.

Positionerna i Astronativa är astronomiskt exakta. Tolkningen är till för inspiration. · Ordlista · Villkor · Integritet · Tack