¿Qué es una alucinación de la IA y cómo detectarla?
Una alucinación es un dato inventado que la IA presenta con la misma seguridad que uno cierto: una cita que nadie dijo, un artículo de ley que no existe, una cifra redonda que suena bien. Se detecta pidiendo la frase exacta que respalda cada afirmación y comprobando a mano todo lo concreto: números, fechas, nombres propios y referencias.
Por qué pasa
Porque el objetivo del modelo es que la continuación encaje, no que sea cierta. Cuando le pides un dato que no tiene, la continuación más probable no es «no lo sé»: es algo con la forma de un dato. Un número plausible, una fecha plausible, un nombre plausible. Y por eso las invenciones tienen tan buen aspecto.
Dónde se inventa más
- Cifras y estadísticas, sobre todo si son redondas o «según un estudio».
- Citas y referencias: libros, sentencias, artículos de ley, enlaces.
- Hechos recientes, posteriores a lo que la herramienta conoce.
- Detalles muy locales: horarios, precios, trámites de tu ciudad.
- Cualquier cosa que le pidas cuando ya has insistido dos veces y no la tiene.
Tres defensas que no cuestan nada
- Dale tú el material. Si pegas el documento y pides que trabaje solo con eso, casi no hay margen para inventar.
- Pide la frase exacta. «Para cada punto, copia la frase del texto que lo respalda.» Si no hay frase, hay invento.
- Autoriza el «no lo sé». «Si no está en el texto, escribe: no consta.» Suena obvio y cambia el resultado.
La verificación de dos minutos
Antes de reenviar nada, subraya lo concreto —cifras, fechas, nombres, referencias— y comprueba solo eso. Es donde está el 90% del riesgo, y no lleva más de un par de minutos. El resto del texto, si está bien argumentado, puedes leerlo con criterio normal.
Y una señal de alarma que vale para todo: cuanto más segura suena una respuesta sobre algo muy específico que no le has dado tú, más hay que comprobarla.
La IA no miente: rellena. Tu trabajo es no firmar lo que ha rellenado sin mirarlo.