Reducir las alucinaciones de la IA: los métodos que funcionan

En 2023, en Nueva York, unos abogados presentaron ante un tribunal federal un escrito que citaba sentencias que no existían. Las había generado ChatGPT, y el juez los sancionó (caso Mata v. Avianca). Las referencias parecían perfectas: nombres de las partes, números, resúmenes.

Este caso resume bien el problema. Una alucinación, el término habitual para una información falsa producida con aplomo, es difícil de detectar porque tiene la forma de una buena respuesta. Ningún prompt hace desaparecer el fenómeno. En cambio, puedes hacerlo bastante menos frecuente y, sobre todo, más fácil de detectar.

Por qué la IA inventa sin saberlo

Un modelo de lenguaje no consulta una base de hechos cuando responde por sí solo. Predice una continuación de texto plausible a partir de lo que ha aprendido. En un tema muy documentado, lo plausible y lo verdadero suelen coincidir. En un detalle poco frecuente, sigue produciendo un texto plausible, porque nada lo obliga a detenerse. Para conocer la mecánica completa, lee cómo funciona un modelo de lenguaje.

Eso explica dónde conviene mirar en primer lugar:

• las referencias: artículos, libros, sentencias, enlaces web;
• las citas entre comillas atribuidas a alguien;
• las cifras precisas, las fechas y los importes;
• la información local o reciente, como un horario, un tipo de interés o una normativa;
• los detalles técnicos de nicho: una función de biblioteca que parece existir, una opción de un programa.

Si tu petición toca alguno de estos puntos, la instrucción debe cambiar. Para reformular un correo, no necesitas nada de esto.

Autorizar explícitamente el «no lo sé»

Un asistente busca responder. Si tu prompt no prevé otra salida, produce una. Darle derecho a no saber suele reducir las invenciones, siempre que lo digas con precisión.

Antes:

Dame 5 estudios recientes sobre el efecto de la semana laboral de 4 días en la productividad, con los autores y las cifras clave.

Este prompt exige cinco resultados precisos: empuja a completar la lista pase lo que pase.

Busco estudios serios sobre [TEMA].

Enumera únicamente aquellos de cuya existencia estés razonablemente seguro, aunque haya menos de cinco, o ninguno. Para cada uno, indica lo que sabes con certeza (autores, año, organismo) y escribe «por verificar» para todo lo demás. No des ningún enlace, ninguna cifra ni ninguna cita exacta si no estás seguro.

Termina con las palabras clave y las bases de datos donde yo mismo pueda comprobarlo.

La última frase da una salida útil incluso cuando el modelo no tiene nada sólido. Una respuesta llena de «por verificar» te informa más que una lista limpia y falsa.

Responder a partir de un texto proporcionado

El método más eficaz consiste en cambiar la pregunta. En lugar de preguntarle a la IA lo que sabe, pregúntale lo que dice un documento que tú le das. El trabajo se convierte en lectura, un ejercicio mucho más fiable que la memoria.

Ejemplo: la secretaria de una asociación quiere comprobar qué prevén los estatutos para convocar una asamblea general.

Responde a mi pregunta utilizando únicamente el documento que aparece a continuación.

Reglas:
- Empieza citando palabra por palabra el pasaje o los pasajes en los que te basas, indicando el artículo o la página.
- Responde después en 3 frases como máximo.
- Si el documento no permite responder, escribe «El documento no lo especifica» y no añadas ningún conocimiento externo.

Pregunta: [TU PREGUNTA]

Documento:
[TEXTO DEL DOCUMENTO]

El orden tiene su importancia. Al citar primero, la respuesta se apoya en los pasajes seleccionados, y puedes controlar las citas con una simple búsqueda en el documento. Una cita que no se encuentra indica que hay que desconfiar del resto. Para documentos de varias decenas de páginas, el método se complica un poco, y el artículo sobre los documentos largos lo detalla.

Conectar la IA a fuentes reales

Varias herramientas pueden buscar en la web o en tus archivos antes de responder y mostrar sus fuentes. Esta opción reduce el riesgo en los temas recientes, sin eliminarlo. Un enlace mostrado puede existir sin decir lo que la IA le hace decir, o proceder de una página de mala calidad.

El reflejo que conviene mantener: abre el enlace para cualquier información que vayas a reutilizar y busca la frase precisa en la página. Para los desarrolladores, el equivalente consiste en dar la documentación de la versión correcta de la biblioteca, ejecutar el código y lanzar las pruebas. Una llamada a una función inventada se ve enseguida al ejecutar, siempre que se ejecute.

Hacer que enumere las afirmaciones por verificar

Una vez producido el texto, una segunda pasada ayuda a saber dónde concentrar tu relectura. Los modelos estiman mal su propia fiabilidad: no tomes esta clasificación por una prueba. Sirve para ordenar las verificaciones y para evitarte releer cada línea con la misma atención.

Este es un texto producido por una IA. Debo verificarlo antes de publicarlo.

Elabora una tabla con las afirmaciones verificables que contiene (cifras, fechas, nombres, citas, relaciones de causa y efecto). Para cada una, indica:
- la frase correspondiente;
- el tipo de fuente que permitiría verificarla;
- el riesgo de error: alto, medio o bajo, con una razón breve.

Ordena la tabla por riesgo decreciente. No corrijas nada y no afirmes que una información es verdadera.

Texto:
[PEGA EL TEXTO]

Obtienes una lista de comprobación. Para el método de verificación en sí, lee cómo verificar una respuesta de la IA.

Lo que ningún prompt resuelve

Estas instrucciones hacen bajar el riesgo, pero no lo anulan. Un modelo puede escribir «estoy seguro» y equivocarse, igual que puede deformar un documento que acaba de leer, sobre todo cuando la respuesta exige combinar varios pasajes. En un tema médico, jurídico o financiero, el resultado sirve de punto de partida que verificar con una fuente oficial o con un profesional.

La pregunta que debes hacerte antes de utilizar una respuesta cabe en una línea: si esta información es falsa, ¿qué ocurre? Si la respuesta es «no mucho», adelante. Si la respuesta implica a un cliente, dinero o tu firma, abre tú mismo la fuente y anota después en tu prompt habitual la indicación «escribe “por verificar” en todo aquello de lo que no estés seguro».