≡En resumen
- Una alucinación es un dato falso que la IA presenta con total seguridad, no un fallo técnico visible.
- Ocurre porque un modelo de lenguaje genera texto probable, no comprueba hechos.
- Las más peligrosas son las citas, cifras, sentencias, enlaces y librerías de código inventadas.
- Dar documentos, pedir citas literales y permitir que el modelo diga «no lo sé» las reduce mucho, pero no las elimina.
- En una empresa, cualquier respuesta de IA que llegue a un cliente necesita fuentes controladas y revisión.
01 ¿Qué son las alucinaciones de la IA?
Se llama alucinación a una respuesta de un modelo de lenguaje que suena correcta y segura pero contiene información falsa, inventada o que no aparece en los documentos que le has dado. El modelo no avisa: escribe la cifra inventada con el mismo tono que la verdadera.
El término se popularizó con ChatGPT, pero afecta a todos los modelos generativos, incluidos Claude, Gemini o los modelos abiertos que puedes ejecutar en tu ordenador. Los modelos actuales alucinan bastante menos que los de hace dos años, sobre todo cuando pueden buscar en la web o leer tus archivos, pero el riesgo no desaparece.
02 Por qué la IA se inventa cosas
Un LLM se entrena para continuar texto de la forma más probable. No tiene una base de datos de hechos que consulte antes de responder: tiene patrones aprendidos. Cuando la pregunta cae en una zona que conoce bien, lo probable suele coincidir con lo cierto. Cuando no, rellena el hueco con algo que encaja en la forma, aunque falle en el fondo.
Lagunas de conocimiento
El modelo no sabe nada posterior a su fecha de corte ni datos privados de tu empresa, y aun así intenta responder.
Presión por contestar
Si el prompt no le deja reconocer que no sabe algo, tiende a dar una respuesta completa antes que admitir el vacío.
Preguntas ambiguas
Un nombre poco común, una sigla con varios significados o una pregunta sin contexto multiplican las conjeturas.
Detalles raros o muy concretos
Fechas exactas, números de sentencia, ISBN, URL o nombres de funciones son justo lo que peor se memoriza.
Contexto largo o mal ordenado
En documentos enormes el modelo puede mezclar partes o perder un dato importante entre miles de palabras.
Agentes con muchos pasos
Un error pequeño al principio de una tarea larga se arrastra y el agente puede dar por hecho algo que nunca comprobó.
03 Tipos de alucinaciones y dónde hacen más daño
| Tipo | Ejemplo | Riesgo |
|---|---|---|
| Dato inventado | Una cifra de mercado, una fecha o un precio que nadie ha publicado | Decisiones o textos públicos basados en algo falso |
| Fuente o cita inventada | Artículos, sentencias, libros o enlaces que no existen | Muy alto en trabajos legales, académicos y periodísticos |
| Infidelidad al documento | El resumen de un contrato incluye una cláusula que el contrato no tiene | Alto: el usuario confía porque le dio la fuente |
| Código inexistente | Funciones, parámetros o paquetes de npm o PyPI que no existen | Errores en producción y riesgo de instalar paquetes maliciosos con ese nombre |
| Acción no realizada | Un agente asegura que ha pasado los tests o enviado un correo sin haberlo hecho | Alto en automatizaciones sin revisión |
| Razonamiento erróneo | Un cálculo o una deducción con un paso falso en medio | Medio: suele detectarse si se revisa el razonamiento |
04 Casos reales: cuando la alucinación sale cara
En junio de 2023, un juez federal de Nueva York multó con 5.000 dólares a dos abogados y a su despacho por presentar un escrito con precedentes judiciales inventados por ChatGPT, en el caso Mata contra Avianca. Las sentencias tenían nombres, números y citas internas creíbles, pero no existían. Desde entonces se han repetido casos parecidos en varios países.
En febrero de 2024, un tribunal de Columbia Británica (Canadá) obligó a Air Canada a compensar a un cliente al que su chatbot le había explicado una política de reembolso por duelo que no era la real. La aerolínea alegó que el chatbot era responsable de sus propias respuestas; el tribunal concluyó que la empresa responde de toda la información de su web, la dé una página o un bot.
La lección para cualquier negocio es clara: si pones un asistente de IA delante de tus clientes, lo que diga es tuyo. Un chatbot de atención al cliente bien diseñado responde solo a partir de tus documentos y deriva a una persona cuando no encuentra la respuesta.
05 Cómo reducir las alucinaciones al usar Claude u otra IA
La documentación oficial de Claude dedica una guía a este problema. Estas son sus técnicas, ordenadas de la más sencilla a la más avanzada, con lo que significan en la práctica:
-
1
Permite decir «no lo sé»
Escribe en el prompt que, si falta información, debe decirlo. Es la medida más simple y de las que más ayudan.
-
2
Dale la fuente y limita su uso
Pega o adjunta el documento y pide que responda solo con esa información, sin recurrir a su conocimiento general.
-
3
Pide citas literales primero
Con documentos largos, pide que extraiga primero las frases exactas relevantes y que luego razone solo sobre ellas.
-
4
Exige una fuente por afirmación
Pide que cada dato lleve su cita y que retire cualquier frase para la que no encuentre apoyo en el texto.
-
5
Revisa el razonamiento
Con el pensamiento extendido activado puedes leer el resumen de cómo ha llegado a la respuesta y detectar supuestos falsos.
-
6
Repite y compara
Lanza la misma pregunta varias veces: si las respuestas no coinciden en un dato, ese dato es sospechoso.
-
7
Verifica fuera del modelo
Las cifras, nombres y enlaces importantes se comprueban en la fuente original antes de publicarlos o decidir con ellos.
06 Alucinaciones en agentes y en programación
Cuando la IA no solo escribe sino que actúa, la alucinación cambia de forma. Un agente como Claude Code puede afirmar que algo funciona porque «debería» funcionar. La defensa es darle formas de comprobarlo por sí mismo y pedir pruebas, no promesas.
- ✓Que el agente ejecute los tests y te muestre la salida real, no un resumen.
- ✓Que lea la documentación o el código de la librería antes de usar una función que no conoce.
- ✓Que compruebe en el registro de paquetes que una dependencia existe antes de añadirla.
- ✓Revisar el diff completo antes de aceptar cambios en ficheros críticos.
- ✓Pedir enlaces a la fuente oficial cuando cite un comando, una opción o un límite.
- ✓Dividir tareas largas en pasos cortos con una verificación al final de cada uno.
07 Cómo protegerte de las alucinaciones en tu empresa
No hace falta renunciar a la IA para controlar el riesgo; hace falta decidir dónde puede equivocarse sin consecuencias y dónde no. Un borrador interno tolera errores que una respuesta a un cliente, una factura o un texto legal no toleran. Si quieres ver qué herramientas encajan en cada caso, tienes un directorio de herramientas para Claude con opciones de búsqueda, verificación y automatización.
Fuentes controladas
El asistente responde solo con tus documentos, catálogos y políticas, actualizados y con fecha.
Revisión humana donde importa
Contratos, precios, datos médicos o legales y comunicaciones públicas pasan siempre por una persona.
Derivación clara
Si no encuentra la respuesta, el sistema lo dice y pasa la conversación a tu equipo.
Registro y pruebas
Guarda conversaciones y prueba periódicamente con preguntas difíciles para medir los fallos.
Preguntas frecuentes sobre Alucinaciones de la IA
Es una respuesta de un modelo de IA que parece correcta pero contiene datos falsos o inventados, o que no se apoya en las fuentes que se le dieron. El modelo la presenta con la misma seguridad que una respuesta cierta.
Porque generan el texto más probable según lo aprendido, no consultan una base de hechos. Cuando les falta información, a menudo rellenan el hueco con algo plausible en lugar de reconocer que no lo saben.
No. Se pueden reducir mucho dando documentos fiables, pidiendo citas y permitiendo que el modelo diga que no sabe, pero la propia documentación de Claude recuerda que hay que validar la información crítica.
Depende de la tarea, de la versión y de si el modelo puede buscar o leer tus documentos. Más que el modelo, influye cómo lo uses: con fuentes y verificación, cualquier modelo actual mejora mucho.
Desconfía de cifras exactas, citas, nombres y enlaces sin fuente. Pide la fuente, ábrela y comprueba que dice lo mismo; si la respuesta cambia al repetir la pregunta, es una señal de alarma.
En el caso de Air Canada de 2024, el tribunal consideró responsable a la empresa por lo que dijo su chatbot. Trata las respuestas de tu asistente como información oficial de tu negocio.
Fuentes consultadas
Sobre el autor
Equipo editorial de appyweb
Marketing, SEO y desarrollo con IA
Especialistas de appyweb en SEO, publicidad, desarrollo web y automatización con IA.