Límites y alucinaciones de ChatGPT
En esta página
Lo que ChatGPT no puede hacer y por qué importa
Saber usar ChatGPT empieza por saber dónde falla. La herramienta es potente, pero tiene defectos que la experiencia por sí sola no corrige: hay que sortearlos. Esta lección es, posiblemente, la más crítica del curso, porque separa a los usuarios que verifican la información de aquellos que algún día difundirán desinformación con total confianza. OpenAI lo deja claro en sus Condiciones de uso: una respuesta puede ser inexacta, no debe ser tu única fuente de verdad ni sustituir el consejo profesional, y tú eres responsable de evaluar su precisión.
Alucinaciones: cuando el modelo se inventa cosas
Una alucinación es una respuesta que parece perfectamente correcta —fraseo seguro y estructura impecable—, pero que es factualmente errónea. ChatGPT no miente; genera la continuación más probable basándose en patrones aprendidos, y esa continuación a veces es incorrecta. Cuando no «sabe» algo, no siempre se detiene para decirlo; puede que genere una respuesta que suene plausible en su lugar.
OpenAI describe las formas más comunes: definiciones, fechas o hechos incorrectos; citas, estudios o referencias inventadas atribuidas a fuentes que no existen; y respuestas excesivamente seguras ante preguntas ambiguas o complejas. Hay otra trampa en la que muchos caen por las malas: ChatGPT no puede determinar con fiabilidad si un texto lo ha escrito una IA o si lo ha escrito él mismo. Su respuesta a «¿Has escrito tú este ensayo?» no prueba nada.
La defensa se resume en cuatro hábitos. Verifica de forma independiente cualquier información crítica: números, fechas, nombres, fuentes. Deja que las herramientas adecuadas den solidez a la respuesta: usa la búsqueda web para eventos actuales y hechos concretos, el análisis de datos para cálculos y la investigación profunda para contrastar múltiples fuentes. Pide fuentes y ábrelas: un enlace que no respalda la afirmación vale tanto como no tener fuente alguna. Por último, eleva el nivel de razonamiento en preguntas espinosas: no eliminarás el riesgo, pero le das tiempo al modelo para recorrer su lógica paso a paso.
Lo que el modelo no puede saber
El conocimiento del modelo se detiene en una fecha de corte. Sin búsqueda web, todo lo ocurrido después de esa fecha es invisible para él, y puede que ni siquiera sea consciente de que le falta información. Con la búsqueda web activada, aparece otro límite: algunos sitios siguen siendo inaccesibles por problemas técnicos, muros de pago o porque bloquean a los bots.
La cobertura también varía según el tema. En asuntos bien documentados, las respuestas suelen ser excelentes; en temas de nicho o sobre los que apenas se ha escrito, la calidad puede caer en picado, y nada en el tono te avisará. OpenAI también señala sesgos: presentar una única perspectiva como verdad absoluta, simplificar en exceso cuestiones matizadas o tergiversar el peso del consenso científico o del debate social. En temas sensibles, contrasta con otras fuentes.
Límites de razonamiento
Los cálculos de varios pasos siguen siendo un punto débil cuando se hacen «de cabeza» dentro del texto de la respuesta. Para cualquier cálculo que afecte a una decisión, pide al modelo que use el análisis de datos, que ejecuta código, y contrasta el resultado con una herramienta dedicada. Las cadenas de razonamiento muy largas conllevan el mismo riesgo: se pierde el hilo y aparecen inconsistencias sobre la marcha. Contar es otro defecto contraintuitivo: hacer recuento de letras, palabras o elementos puede hacer tropezar al modelo, aunque un niño podría hacerlo.
Límites prácticos de una conversación
Toda conversación tiene una ventana de contexto: la cantidad de información que ChatGPT puede usar en ese hilo. Tus mensajes y sus respuestas ocupan espacio, y unas pocas intercambios muy largos pueden consumir más que muchos cortos: así que no hay un número fijo de mensajes por conversación. El tamaño de esta ventana aumenta con tu plan. Cuando está llena, ChatGPT te lo indica («Context window full»): puedes revisar el hilo y empezar inmediatamente una nueva conversación, opcionalmente con un resumen proporcionado por ChatGPT. Ese resumen podría omitir una instrucción antigua o una redacción exacta: vuelve a adjuntar lo importante.
El mismo efecto se aplica a salidas largas: si pides al modelo que escriba un documento de veinte páginas sección por sección, pueden aparecer contradicciones entre las partes. Una revisión completa no es opcional, y las inconsistencias señaladas pueden corregirse en un único mensaje.
Pruébalo tú mismo
Pon a prueba los límites tú mismo. Pide una cita concreta de un autor francés, con su fuente, y búscala tú mismo con un motor de búsqueda. Pregunta por un evento muy reciente sin búsqueda web y luego vuelve a preguntar con la búsqueda activada. Haz que el modelo realice un cálculo de cinco pasos «de cabeza», luego mediante análisis de datos, y rehazlo a mano. Por último, pregunta cuántas veces aparece la letra R en «extraordinary» y cuéntala tú mismo. Estos ejercicios construyen una intuición —más fiable que cualquier regla memorizada— sobre cuándo necesitas verificar.
Te esperan dos trampas. La primera, la confianza ciega: cuanto mayores sean las consecuencias, más estrictos deben ser tus controles. La segunda, el extremo opuesto: culpar a la herramienta cuando tu instrucción fue vaga. Antes de concluir que hay un error, reformula tu petición.
Fuentes oficiales: Does ChatGPT tell the truth? (Centro de ayuda de OpenAI: alucinaciones, herramientas, fecha de corte, sesgos, detección de texto generado por IA) · ChatGPT Free Tier FAQ (conversación completa) · Europe Terms of Use (precisión de la respuesta) · Data analysis with ChatGPT (cálculos ejecutados en Python)
Puntos clave
- Las alucinaciones surgen de cómo funciona ChatGPT: genera texto plausible, no necesariamente verdadero
- Verifica siempre hechos críticos, citas, fuentes y números; ChatGPT no puede detectar con fiabilidad textos escritos por IA
- La búsqueda web, el análisis de datos y la investigación profunda reducen el riesgo, pero no lo eliminan
- Las conversaciones tienen una ventana de contexto limitada: cuando se llena, inicia un nuevo hilo con lo esencial
- Conocer estos límites no reduce la utilidad de ChatGPT: te hace más eficaz