¿Por qué ChatGPT a veces inventa cosas?
Le pedís un dato y te lo da con total seguridad. Después lo buscás y no existe. No te está mintiendo a propósito: te explico qué pasa adentro y cómo cuidarte.
En esta nota · 7 partes
ChatGPT inventa cosas porque no busca la respuesta en un archivo: la escribe. Arma cada frase eligiendo qué palabra queda mejor después de la anterior. Casi siempre le sale bien, pero cuando no tiene el dato igual completa la frase con algo que suena correcto. A eso se le dice alucinación.
No busca: completa
Pensá en el autocompletado del celular. Escribís "nos vemos" y te sugiere "mañana". No sabe si se ven mañana: sabe que esa palabra suele venir después.
Una inteligencia artificial como ChatGPT hace eso mismo, pero después de haber leído una cantidad enorme de textos. Por eso escribe tan bien. Y por eso mismo, cuando le falta un dato, no se queda callada: sigue la frase con lo que más se parece a una respuesta.
no te miente: completa la frase con lo que mejor suena
El compañero que nunca dice "no sé"
Todos tuvimos uno en el colegio. Lo pasaban al frente, no había estudiado, y igual hablaba cinco minutos con una seguridad total. A veces acertaba. A veces inventaba una batalla.
La IA se parece a ese compañero en una cosa: el tono es siempre seguro, sepa o no sepa. No podés darte cuenta por cómo lo dice.
¿Dónde se equivoca más?
| Tipo de dato | Ejemplo | Riesgo |
|---|---|---|
| 🔢 Números y precios | "La comisión es del 4,5%" | Alto |
| 📅 Fechas y novedades | "Esa regla cambió en marzo" | Alto |
| ⚖️ Leyes y trámites | "El artículo 12 dice que…" | Alto |
| 🔗 Links y citas | Un link que no abre, una frase que nadie dijo | Alto |
| ✍️ Redactar y resumir | Un posteo, un mail, un resumen | Bajo |
| 💡 Ideas y orden | Temas para publicar, pasos de un plan | Bajo |
OpenAI, la empresa que hace ChatGPT, lo dice en su propia ayuda: las respuestas pueden sonar convincentes y ser incorrectas, y puede inventar citas. Por eso recomienda no usarlo como única fuente.
¿Cómo me cuido?
- Separá redacción de datos. Para escribir, ordenar o resumir, usala tranquilo. Si la respuesta incluye un número, una fecha o una ley, eso se revisa.
- Pedile la fuente y abrila. Si el link no existe o dice otra cosa, ya sabés.
- Dale vos la información. Si le pegás tu lista de precios o el texto de tu web y le pedís que trabaje con eso, inventa mucho menos.
- Decile que puede no saber. Una línea como "si no estás seguro, decime que no sabés" ayuda. La forma de pedir cambia mucho el resultado: lo vemos en cómo pedirle bien a ChatGPT.
- Antes de publicar, leelo entero. Lo que sale con tu nombre es tu responsabilidad, no de la máquina.
¿Y si tengo un negocio?
El error típico: pedirle "escribime un posteo sobre las cuotas sin interés" y publicarlo tal cual, con porcentajes que nadie verificó. Un cliente te lo marca en los comentarios y quedás mal vos.
Usala como a un pasante muy rápido: que te prepare el borrador, y vos revisás antes de que salga.
Resumen en una tabla
| Lo que parece | Lo que pasa |
|---|---|
| Busca la respuesta | La escribe, palabra por palabra |
| Si lo dice seguro, es cierto | Siempre lo dice seguro |
| Miente | No sabe que se equivocó |
| No sirve | Sirve mucho, si revisás los datos |
La próxima vez que te dé un dato muy redondo, buscalo 👀 Mandáselo a quien le cree todo a ChatGPT.
Palabras de esta nota
Preguntas frecuentes
¿Por qué ChatGPT inventa cosas?
Porque no consulta una base de datos de hechos: genera texto prediciendo qué palabra es más probable que siga. Si no tiene el dato, igual completa la frase con algo que suena bien.
¿Qué es una alucinación de la inteligencia artificial?
Es cuando la IA da una respuesta que suena convincente pero es incorrecta o directamente inventada: un dato, una cita, un link o una ley que no existen.
¿En qué se equivoca más?
En datos puntuales: números, fechas, precios, leyes, citas textuales, nombres de personas y links. También en temas muy recientes o muy locales.
¿Cómo me doy cuenta de que inventó algo?
No se nota por el tono, porque siempre escribe seguro. Hay que verificar: pedile la fuente, abrí el link y buscá el dato en un sitio oficial.
¿Entonces no sirve para mi negocio?
Sirve mucho para redactar, resumir, ordenar ideas y armar borradores. El cuidado es no publicar ni decidir con un dato que no revisaste.
Fuentes
Director General y Cofundador de Mejor Digital, agencia de marketing digital que desde 2015 acompañó a más de 140 empresas en siete países. Más de 20 años en marketing digital. Más sobre mí · Conocé los planes