Verificar una respuesta de la IA: qué comprobar y cómo

En 2023, en Nueva York, un juez federal sancionó a unos abogados por haber presentado un escrito que citaba resoluciones judiciales que no existían. Las había producido ChatGPT, y el caso Mata v. Avianca se ha convertido en el ejemplo clásico. Las referencias parecían irreprochables: el nombre de un tribunal, un número, una fecha. Nadie había leído esas resoluciones antes de citarlas.

Esta historia enseña una lección sencilla. Lo que engaña es la forma: una respuesta bien escrita despierta nuestra confianza. Verificarlo todo es imposible e inútil. Necesitas una manera de decidir qué verificar, con cuánto esfuerzo y en qué fuente.

Empieza estimando lo que costaría un error

Antes de comprobar nada, hazte una sola pregunta: si esta respuesta es falsa, ¿qué ocurre?

Un eslogan fallido para un cartel se ve enseguida y cuesta poco. Un tipo de IVA erróneo en el presupuesto de un artesano puede costar caro y pasar inadvertido. Una mención de alérgenos falsa en la carta de un restaurante puede afectar a la salud de un cliente. El esfuerzo de verificación debe seguir ese riesgo, no la longitud del texto.

En la práctica bastan tres niveles. Cuando el error no tiene consecuencias, basta una relectura rápida. Cuando compromete tu credibilidad, como en un artículo o en una presentación a un cliente, compruebas cada hecho. Cuando afecta al derecho, al dinero o a la salud, la IA solo sirve de punto de partida: la referencia es la fuente oficial o el profesional correspondiente.

El control según el tipo de afirmación

Un texto de la IA mezcla frases que no requieren el mismo control. Una opinión o una reformulación se juzgan al leer. Una afirmación factual necesita una fuente. Esta tabla indica dónde concentrar tu atención.

Sobre este último punto, una prueba rápida consiste en pedir la cita exacta que respalda cada idea del resumen y buscar después esas frases con Ctrl+F en el original.

Las fuentes: abrir, leer, comparar

Las herramientas conectadas a la web, como Perplexity y sus búsquedas con fuentes, han mejorado las cosas, pero una cita mostrada junto a una frase no es una prueba. El enlace puede existir y decir otra cosa, o decir lo mismo con reservas que la respuesta ha hecho desaparecer.

Para una fuente bastan cuatro preguntas:

1. ¿Existe realmente el documento?
2. ¿Dice lo que se le hace decir, con el mismo matiz?
3. ¿Quién lo ha publicado y tiene algún interés en el asunto?
4. ¿Es lo bastante reciente para tu tema?

Cuidado también con la falsa confirmación. Varios sitios que repiten la misma información pueden apoyarse todos en una única fuente de origen, a veces producida a su vez por una IA. Varias copias de un mismo texto no valen como dos fuentes. Remóntate a la primera publicación.

Lo que la IA puede hacer para ayudarte a verificar

Preguntar «¿seguro?» no aporta gran cosa. El modelo puede disculparse y cambiar una buena respuesta, o defender una mala. Como explica nuestro artículo sobre el funcionamiento de los modelos de lenguaje, no tiene una conexión directa con los hechos.

En cambio, es muy útil para preparar tu trabajo de control: aislar lo que debe verificarse e indicar dónde mirar. Pega el texto en una conversación nueva, para que lo lea sin tratar de defender su propia respuesta.

Vas a ayudarme a revisar el texto siguiente antes de publicarlo. No lo reescribas ni lo corrijas.

Elabora una tabla con estas columnas:
1. Afirmación verificable, copiada palabra por palabra.
2. Tipo: cifra, fecha, nombre, cita, regla jurídica o fiscal, hecho técnico, otro.
3. Gravedad si es falsa para [PÚBLICO O USO]: baja, media, alta.
4. Fuente que consultar para verificarla, describiendo el tipo de organismo o de documento.

Ordena la tabla por gravedad decreciente. No indiques nunca que una afirmación es verdadera: tu tarea consiste únicamente en mostrarme lo que debo comprobar. Añade al final las afirmaciones implícitas, es decir, lo que el texto supone sin decirlo.

País y fecha en cuestión: [PAÍS, FECHA].

Texto:
"""
[TEXTO QUE VERIFICAR]
"""

Este prompt no sustituye tu control. Puede olvidar una afirmación, y las fuentes que sugiere deben tomarse como pistas. Sobre todo, evita releer por instinto.

Recurrir a una segunda herramienta tiene interés, a condición de no fiarse ciegamente. Si dos modelos discrepan, sabes dónde profundizar. Si están de acuerdo, quizá hayan aprendido el mismo error de los mismos textos. Encontrarás cómo reducir estos errores de antemano en nuestra guía para limitar las alucinaciones.

Las trampas que sobreviven a una relectura rápida

Algunos errores se cuelan incluso entre revisores atentos.

Lo verdadero y lo falso en la misma frase. Una fecha correcta acompañada de un lugar falso se lleva la confianza del lector. Si has verificado la mitad de la frase, no has verificado la frase.

La ausencia. Lo más difícil de detectar es lo que falta: una excepción, una condición, un plazo. Una regla presentada sin su umbral de aplicación puede ser exacta en general y falsa para tu caso. Haz la pregunta: «¿En qué casos no se aplica esta regla?» y verifica después la respuesta.

Los detalles demasiado perfectos. Una cifra muy precisa sin fuente, una cita que llega justo a tiempo, el nombre de un estudio muy oportuno son señales de alerta.

El cansancio. Después de cinco respuestas correctas, se relaja la atención. Es justo el momento en que el error se cuela, sobre todo cuando se usa la herramienta todos los días. Una breve lista de control escrita ayuda a mantener el tipo, porque no depende de tu vigilancia del momento.

Adquiere el hábito con tu próximo texto

En el próximo texto que la IA escriba por ti, subraya cada cifra, nombre propio y fecha, y abre después al menos una fuente para los tres elementos que más te perjudicarían si fueran falsos. Anota lo que encuentres. Al cabo de unos cuantos textos, conocerás los puntos débiles de tu herramienta en tus temas, y sabrás exactamente dónde mirar.