L'IA et le ciel

Hallucinations de l'IA : quand la machine invente

Une hallucination de l'IA est une réponse fluide et assurée d'un modèle de langage, mais fausse ou inventée. Le modèle génère un texte plausible au lieu de vérifier les faits : pour les positions des planètes, les dates d'éclipses et les sources, mieux vaut donc s'appuyer sur le calcul et sur des publications de référence.

Quiconque a déjà discuté avec un assistant IA a connu ce moment : la réponse semble détaillée, posée et convaincante, puis se révèle fausse. C'est ce qu'on appelle une hallucination de l'IA. Nous expliquons ici ce que cela signifie, comment cela peut apparaître dans les questions sur le ciel, et comment Astronativa s'en protège.

Ce qu'est une hallucination

Un grand modèle de langage (LLM) est un programme entraîné sur une immense quantité de textes. Sa fonction première est de poursuivre un texte de la manière la plus plausible. Il ne conserve pas les faits comme une encyclopédie ou une base de données ; il a appris comment les mots se placent habituellement les uns à côté des autres.

Il peut donc produire une phrase fluide et grammaticalement correcte qui ne correspond pourtant pas à la réalité. C'est une hallucination : une réponse assurée, mais incorrecte ou entièrement inventée. Le mot est une métaphore. Le modèle ne ment pas volontairement, car il n'a aucune intention de tromper. Il ne distingue tout simplement pas « ça sonne juste » de « c'est juste ». Les développeurs d'IA et les institutions de recherche abordent ce problème ouvertement et travaillent à le réduire, mais personne ne prétend qu'il ait disparu. Pour une vue d'ensemble, voyez ce que l'IA peut et ne peut pas faire.

Exemples typiques liés au ciel

L'astronomie regorge de chiffres, de dates et de noms : c'est précisément là que les erreurs se glissent sans bruit.

• Des dates erronées. Un modèle peut donner une date incorrecte pour une éclipse, un équinoxe ou le pic d'une pluie d'étoiles filantes, car ces dates reviennent souvent dans ses textes d'entraînement et il en devine une plausible.
• Une mauvaise position de planète. Si on lui demande dans quel signe se trouve Mars à une date donnée, un modèle peut répondre avec aplomb sans rien calculer. La position d'une planète est le résultat d'un calcul, pas une phrase mémorisée.
• Des sources inventées. Il arrive qu'un modèle cite un article, un auteur ou une adresse web qui semblent réalistes mais n'existent pas. C'est l'une des formes d'hallucination les plus connues.
• Des notions mélangées. Un fait astronomique et une affirmation astrologique peuvent fusionner en une seule phrase, par exemple « Mercure rétrograde provoque des problèmes ». Le mouvement rétrograde est un mouvement apparent dû à la perspective, la Terre et l'autre planète se déplaçant sur leurs orbites à des vitesses différentes ; le relier à des événements relève de la tradition astrologique et non d'un fait établi. Pour en savoir plus, voyez astronomie et astrologie.
• Une fausse précision. Un modèle peut fournir un nombre à de nombreuses décimales qui a l'air scientifique, mais qui est inventé.

Pourquoi Astronativa ne « demande » pas les positions à l'IA

Les positions du Soleil, de la Lune et des planètes ne relèvent ni de l'opinion ni de la mémoire. Elles se calculent. Les astronomes utilisent des éphémérides (tables ou modèles mathématiques donnant la position des corps célestes à tout instant). Des institutions scientifiques comme le JPL de la NASA publient ce type de données, et ses ressources sur la dynamique du système solaire se trouvent sur ssd.jpl.nasa.gov.

Astronativa suit donc un principe simple : les chiffres viennent du calcul, les mots viennent de l'explication. Les positions des planètes pour le ciel 3D et pour les thèmes natals sont calculées à partir d'éphémérides et de formules astronomiques. Lorsque l'IA intervient, elle aide à expliquer, traduire ou reformuler ce qui a déjà été calculé ; elle n'invente pas les positions. Les détails se trouvent dans éphémérides et précision et calcul et récit.

Pensez à la différence entre une calculatrice et un conteur. La calculatrice donne chaque fois le même résultat exact ; le conteur peut embellir. Les deux sont utiles, pour des tâches différentes.

Repérer et vérifier une réponse douteuse

Quelques habitudes simples vont loin :

1. Ne vous fiez pas au ton. L'assurance n'est pas une preuve. Un texte fluide peut être faux.
2. Cherchez une seconde source. Vérifiez la date d'une éclipse ou une phase de la Lune sur une page de la NASA ou de l'ESA, ou sur le site d'une autre institution scientifique.
3. Vérifiez les citations. Si une réponse nomme un livre, un auteur ou un lien, ouvrez-le. S'il n'existe pas ou ne dit pas ce qu'on prétend, ne l'utilisez pas.
4. Méfiez-vous des nombres très précis. Demandez d'où ils viennent. Sans origine claire, traitez-les avec prudence.
5. Séparez le fait de la lecture. Demandez-vous : s'agit-il d'une mesure ou d'une interprétation issue d'une tradition ? Comment distinguer fait et interprétation peut vous aider.
6. Posez de meilleures questions. Une question précise, avec date, heure et lieu, laisse moins de place aux suppositions. Voyez comment interroger l'IA sur le ciel.
7. Autorisez le « je ne sais pas ». Demandez explicitement au modèle de le dire lorsqu'il n'est pas sûr.

Pour un cadre plus large, voyez la vérification des faits par l'IA.

Une attitude sereine

Les hallucinations ne rendent pas l'IA inutile. Elle est efficace pour expliquer, résumer et traduire, tant qu'on n'en fait pas la source de données mesurées. L'approche la plus saine consiste à la traiter comme un assistant appliqué : l'écouter avec intérêt, mais vérifier les chiffres importants. Le ciel reste là où il est, et nous pouvons toujours le confronter à la science, à l'observation et à un peu de patience.

Les positions dans Astronativa sont astronomiquement exactes. L'interprétation est source d'inspiration. · Glossaire · Conditions · Confidentialité · Remerciements