La IA y el cielo

Alucinaciones de la IA: cuando la máquina se inventa cosas

Una alucinación de la IA es una respuesta fluida y segura de un modelo de lenguaje que es falsa o inventada. El modelo genera texto verosímil en lugar de verificar hechos, así que para posiciones planetarias, fechas de eclipses y fuentes lo más seguro es apoyarse en el cálculo y en las publicaciones primarias.

Quien haya conversado con un asistente de IA conoce ese momento en que una respuesta suena detallada, tranquila y convincente, y luego resulta ser incorrecta. Esto se llama alucinación de la IA. Aquí explicamos qué significa, cómo puede aparecer en preguntas sobre el cielo y cómo se protege Astronativa de ello.

Qué es una alucinación

Un modelo de lenguaje de gran tamaño (LLM) es un programa entrenado con una enorme cantidad de texto. Su tarea principal es continuar un texto de la manera más verosímil. No guarda los hechos como lo hace una enciclopedia o una base de datos; ha aprendido cómo suelen aparecer las palabras unas junto a otras.

Por eso puede producir una frase fluida y gramaticalmente correcta que no coincide con la realidad. Eso es una alucinación: una respuesta segura pero incorrecta o totalmente inventada. La palabra es una metáfora. El modelo no miente a propósito, porque no tiene intención de engañar. Simplemente no distingue entre «suena bien» y «es correcto». Los desarrolladores de IA y las instituciones de investigación hablan abiertamente de este problema y trabajan para reducirlo, pero nadie afirma que haya desaparecido. Para ver el panorama general, consulta qué puede y qué no puede hacer la IA.

Ejemplos típicos del cielo

La astronomía está llena de números, fechas y nombres, y ahí es justo donde los errores se cuelan con más facilidad:

• Fechas equivocadas. Un modelo puede dar una fecha incorrecta para un eclipse, un equinoccio o el máximo de una lluvia de meteoros, porque fechas así aparecen a menudo en sus textos de entrenamiento y adivina una verosímil.
• Una posición planetaria errónea. Si le preguntas en qué signo está Marte un día concreto, un modelo puede responder con seguridad sin calcular nada. La posición de un planeta es el resultado de un cálculo, no una frase memorizada.
• Fuentes inventadas. A veces un modelo cita un artículo, un autor o una dirección web que suena real pero no existe. Es una de las formas más conocidas de alucinación.
• Conceptos mezclados. Un hecho astronómico y una afirmación astrológica pueden fundirse en una sola frase, como «Mercurio retrógrado causa problemas». El movimiento retrógrado es un movimiento aparente causado por la perspectiva, ya que la Tierra y el otro planeta recorren sus órbitas a velocidades distintas; relacionarlo con acontecimientos pertenece a la tradición astrológica y no es un hecho establecido. Más en astronomía y astrología.
• Falsa precisión. Un modelo puede dar un número con muchos decimales que parece científico pero es inventado.

Por qué Astronativa no «le pregunta» a la IA las posiciones

Las posiciones del Sol, la Luna y los planetas no son cuestión de opinión ni de memoria. Se calculan. Los astrónomos usan efemérides (tablas o modelos matemáticos que dan la posición de los cuerpos celestes en cualquier momento). Instituciones científicas como el JPL de la NASA publican este tipo de datos, y sus recursos de Dinámica del Sistema Solar están en ssd.jpl.nasa.gov.

Por eso Astronativa sigue un principio sencillo: los números vienen del cálculo, las palabras vienen de la explicación. Las posiciones planetarias del cielo en 3D y de las cartas natales se calculan con efemérides y fórmulas astronómicas. Cuando interviene la IA, ayuda a explicar, traducir o volver a contar lo que ya se ha calculado; no inventa las posiciones. Los detalles están en efemérides y precisión y cálculo y narración.

Piensa en la diferencia entre una calculadora y un narrador. La calculadora da el mismo resultado correcto cada vez; el narrador puede adornar. Ambos son útiles, para tareas distintas.

Cómo detectar y comprobar una respuesta dudosa

Algunos hábitos sencillos ayudan mucho:

1. No te fíes del tono. La seguridad no es una prueba. Un texto fluido puede estar equivocado.
2. Busca una segunda fuente. Comprueba la fecha de un eclipse o una fase lunar en una página de la NASA o la ESA, o en el sitio de otra institución científica.
3. Verifica las citas. Si una respuesta menciona un libro, un autor o un enlace, ábrelo. Si no existe o no dice lo que se afirma, no lo uses.
4. Desconfía de los números demasiado precisos. Pregunta de dónde salen. Si no tienen un origen claro, tómalos con cautela.
5. Separa el hecho de la lectura. Pregúntate: ¿esto es una medición o una interpretación de una tradición? Cómo distinguir hecho e interpretación puede ayudarte.
6. Haz mejores preguntas. Una pregunta concreta, con fecha, hora y lugar, deja menos espacio para adivinar. Consulta cómo preguntarle a la IA sobre el cielo.
7. Permite el «no lo sé». Pide al modelo de forma explícita que lo diga cuando no esté seguro.

Para un marco más amplio, consulta verificación de hechos con IA.

Una actitud serena

Las alucinaciones no hacen que la IA sea inútil. Es buena para explicar, resumir y traducir, siempre que no la convirtamos en la fuente de datos medidos. El enfoque más sano es tratarla como a un asistente aplicado: escucharla con interés, pero verificar los números importantes. El cielo sigue donde está, y siempre podemos contrastarlo con la ciencia, la observación y un poco de paciencia.

Las posiciones en Astronativa son astronómicamente exactas. La interpretación es para inspirarte. · Glosario · Condiciones (en inglés) · Privacidad (en inglés) · Agradecimientos