Por qué la IA se inventa cosas (y cómo trabajar con ello)

Cualquiera que haya usado un chat de IA durante un tiempo se lo ha encontrado: una respuesta redactada con total seguridad que resulta ser falsa. Una cita que no existe, una función que la herramienta no tiene, una normativa que dice lo contrario de lo que el modelo afirma. No es un fallo puntual que vayan a arreglar el mes que viene: es una consecuencia directa de cómo funcionan estos sistemas. Por eso la decisión que importa no es "¿me puedo fiar de la IA?" —así, en general, no—, sino en qué tareas puedes usar lo que produce sin verificar cada línea y en cuáles necesitas otra forma de trabajar.

No consulta: redacta

Un modelo de lenguaje no busca la respuesta en una base de datos de hechos. Genera texto: continúa lo que le escribes con lo que resulta más plausible según los patrones de todo lo que ha leído. La mayoría de las veces, lo más plausible coincide con lo cierto, y por eso la herramienta parece saber tanto.

Pero cuando no tiene de dónde tirar, el mecanismo no se detiene: sigue redactando y rellena el hueco con algo que encaja. De ahí sale la referencia inventada con autor, título y año perfectamente verosímiles, o la cláusula que "recuerda" de un contrato que nunca ha visto. El modelo no está mintiendo —mentir exige conocer la verdad—; está haciendo exactamente lo mismo que hace cuando acierta: producir el texto más probable.

Por qué suena tan convincente

Con las personas usamos la seguridad al hablar como señal: quien duda, titubea. Un modelo de lenguaje rompe esa señal. Redacta lo inventado con la misma soltura, el mismo tono profesional y la misma gramática impecable que lo correcto, porque la fluidez es lo que sabe hacer, no un indicador de que ha comprobado nada. La confianza del texto no dice nada sobre la fiabilidad del contenido.

Hay además un agravante: cuanto más específica es la pregunta sobre algo que el modelo conoce poco —vuestro sector, vuestro contrato, un cambio normativo reciente—, más hueco tiene que rellenar y más probable es la invención. Justo las preguntas que más te importan son las que peor responde de memoria.

Dónde importa poco

Hay tareas donde el valor está en la forma, no en los hechos: preparar un borrador, reformular un texto espeso, dar estructura a unas notas, proponer enfoques para un problema. Si el resultado es un punto de partida que alguien va a reescribir, una invención se corrige sola por el camino.

El riesgo baja especialmente cuando el material lo pones tú: "resume este texto", "redacta una respuesta a partir de estas notas". La fuente está delante y contrastar cuesta poco. No desaparece del todo —un resumen también puede añadir cosecha propia—, así que leer antes de reenviar sigue siendo parte del trabajo. Pero es un riesgo pequeño y fácil de gestionar.

Dónde es inaceptable

En el otro extremo están las tareas donde una invención plausible hace daño de verdad: una cifra que acaba en un informe, una referencia legal o fiscal, las características de un producto, un dato sobre un cliente, una respuesta pública en nombre de la empresa. El criterio para separar unas tareas de otras tiene dos factores: cuánto cuesta el error y lo difícil que es detectarlo. Un borrador raro se nota a la primera lectura; una cifra plausible pero falsa dentro de un informe puede viajar durante meses sin que nadie la cuestione.

Si una tarea combina coste alto y detección difícil, la respuesta del modelo "de memoria" no vale como fuente. Puede valer como punto de partida, nunca como afirmación.

Cómo se trabaja con ello

• Dale el material. La diferencia entre preguntar "de memoria" y pedir que trabaje sobre un texto que tú aportas es enorme. Siempre que exista el documento, adjúntalo o pégalo: la tarea pasa de "recordar" a "leer".
• Verifica en proporción al riesgo. No hace falta comprobar cada línea de un borrador interno; sí cada afirmación de algo que sale de la empresa o alimenta una decisión.
• Pide lo comprobable. Si una afirmación importa, pide de dónde sale y compruébalo contra una fuente que controles. Si no hay forma de comprobarla, trátala como hipótesis, no como dato.
• Acota el terreno cuando el que responde no eres tú. Un asistente que atiende a clientes no puede improvisar. Se construye para responder únicamente desde contenido aprobado por la empresa y para decir "no lo sé" cuando la respuesta no está ahí. Esa restricción no es una limitación técnica que haya que disimular: es la diferencia entre un asistente y un riesgo con interfaz amable.
• La firma no se delega. Quien envía, revisa. La IA quita la página en blanco; la responsabilidad sobre lo que se afirma sigue siendo de la persona que lo afirma.

Tres preguntas antes de usar una respuesta de la IA

1. ¿Le he dado yo el material, o lo ha sacado de su memoria?
2. ¿Puedo comprobar esto contra una fuente que controlo?
3. ¿Qué pasa si es falso y nadie lo detecta a tiempo?

Con esas tres respuestas claras, la herramienta deja de ser una ruleta y pasa a ser lo que es: un redactor rapidísimo que no distingue lo cierto de lo plausible, trabajando para alguien que sí.

En Dateliers esta suele ser la primera conversación de cualquier formación en IA: no qué botones tiene la herramienta, sino qué se le puede pedir y qué no. Si quieres ver cómo lo enfocamos, así trabajamos.