Una respuesta de IA puede estar bien redactada, sonar razonable y ser falsa.
Ese problema no desapareció con los modelos más nuevos. Ha mejorado: los laboratorios reportan avances claros en factualidad. Pero la propia OpenAI sigue describiendo las alucinaciones como un problema que no está completamente resuelto y define el fenómeno de forma bastante simple: respuestas plausibles pero falsas, a veces expresadas con demasiada seguridad.
Fuente: OpenAI, “Why language models hallucinate”.
Para una empresa, el costo no aparece solamente cuando la IA se equivoca. Aparece también en algo menos visible: el trabajo necesario para decidir qué respuestas se pueden aceptar y cuáles hay que comprobar.
Un error pequeño puede ser barato. Un error publicado deja de serlo.
Si le pides a una IA diez ideas de títulos y tres son malas, casi no pasa nada. Las descartas.
Si le preguntas por una cláusula contractual, una política de devoluciones, una cifra financiera o una norma y la respuesta equivocada sale de la pantalla para convertirse en una acción, el problema cambia.
En 2024, el Civil Resolution Tribunal de British Columbia resolvió un caso bastante ilustrativo contra Air Canada. Un chatbot de la aerolínea había dado información incorrecta sobre una tarifa por duelo. La empresa intentó argumentar, entre otras cosas, que no debía responder por la información entregada por el chatbot. El tribunal rechazó esa idea y señaló que la compañía seguía siendo responsable por la información publicada en su sitio y que no había tomado suficiente cuidado para asegurar que el chatbot fuera preciso.
Referencia: Moffatt v. Air Canada, 2024 BCCRT 149.
La lección no es «nunca uses un chatbot». Es más práctica: cuando una respuesta puede crear una obligación, la verificación deja de ser opcional.
El cuello de botella se mueve del borrador a la verificación
Antes, redactar una respuesta especializada podía tomar veinte minutos y revisarla cinco. Con IA, el borrador puede aparecer en treinta segundos, pero la revisión quizá siga tomando cinco minutos.
Eso significa que la parte cara del proceso cambia de sitio. La generación se abarata muchísimo; la comprobación no necesariamente.
Y ahí nace una paradoja: producir cinco alternativas cuesta casi lo mismo que producir una, pero verificar cinco afirmaciones sigue costando más que verificar una.
Por eso el uso indiscriminado de IA puede aumentar trabajo aunque cada respuesta individual llegue más rápido.
No todo merece el mismo nivel de verificación
La salida sensata no es revisar cada palabra generada por IA como si fuera una auditoría forense. Eso eliminaría buena parte de la ventaja.
La solución es ajustar la revisión al daño que produciría el error.
| Uso | Si está mal… | Control razonable |
|---|---|---|
| Lluvia de ideas interna | Se pierde una idea | Lectura rápida; no hace falta verificar hechos que no se usarán. |
| Borrador de correo | Puede salir un dato o tono incorrecto | Revisión humana antes de enviar. |
| Resumen de un documento fuente | Puede alterar una conclusión | Comprobar las afirmaciones importantes contra el documento. |
| Cifra para una propuesta o informe | Puede orientar una decisión | Fuente identificable y vigente. |
| Norma, contrato o política | Puede crear consecuencias jurídicas u operativas | Verificación contra la fuente primaria. |
| Agente que responde o actúa sin revisión previa | El error puede llegar directamente a terceros | Pruebas, límites de acción, monitoreo y ruta clara de escalamiento. |
“Lo sacó del documento” tampoco es garantía suficiente
Conectar un modelo a un PDF, una base documental o un sistema RAG reduce un tipo de problema: ya no depende únicamente de lo que recuerda de su entrenamiento.
Pero todavía puede recuperar el fragmento equivocado, mezclar dos apartados, ignorar una excepción o interpretar mal una tabla. La fuente disponible y la respuesta correcta no son exactamente lo mismo.
Por eso, en tareas de alto impacto, conviene que la salida conserve la trazabilidad: página, párrafo, URL, documento o registro del que salió la afirmación.
Una cita no prueba automáticamente que la interpretación sea correcta, pero vuelve la revisión mucho más barata.
Una prueba que me parece más útil que preguntar “¿qué tan bueno es el modelo?”
Toma veinte tareas reales de tu flujo. No prompts de demostración: casos que la gente de verdad resuelve.
Para cada uno mide cuatro cosas:
- cuánto tardó la IA en producir una salida utilizable;
- cuánto tardó una persona en revisarla;
- cuántas afirmaciones importantes necesitaron fuente;
- cuántas correcciones relevantes aparecieron antes de publicar o actuar.
Si el borrador tarda un minuto y la revisión doce, ya sabes dónde está el costo real. Si otro flujo tarda dos minutos y solo necesita treinta segundos de revisión, ahí probablemente sí hay una automatización rentable.
La incertidumbre también es información
Una de las ideas interesantes de la investigación de OpenAI sobre alucinaciones es que los sistemas pueden ser incentivados a adivinar cuando las evaluaciones premian únicamente acertar y castigan demasiado abstenerse.
Eso sugiere una regla útil para el usuario: no obligues al modelo a inventar una respuesta cuando la evidencia no alcanza.
Pedir que distinga entre lo que sabe, lo que infiere y lo que no puede verificar no vuelve infalible al sistema, pero mejora la forma en que se usa la salida. Y si una respuesta importante no puede aportar una fuente o señalar de dónde la obtuvo, esa ausencia es una señal para detenerse.
El objetivo no es eliminar el error: es evitar que llegue demasiado lejos
Los procesos maduros no dependen de que un modelo jamás se equivoque. Diseñan el flujo para que los errores baratos mueran temprano y los errores caros encuentren una revisión antes de convertirse en correo, pago, contrato, decisión o publicación.
Ese es el “impuesto” que vale la pena medir: no una cifra espectacular de millones sin contexto, sino el tiempo de verificación y el costo de los errores que el proceso dejó escapar.
Si el caso ya implica una acción automatizada, la Calculadora de Riesgo de IA sirve como primer filtro para separar usos reversibles de aquellos que merecen más controles.
