Una Inteligencia Artificial puede estar completamente equivocada y sonar exactamente igual de segura que cuando acierta. No baja el tono, no titubea, no dice «esto no estoy seguro de dónde lo saqué». Y esa ausencia de duda visible es, precisamente, lo que hace que tanta gente con criterio propio y años de oficio baje la guardia frente a una respuesta que no debería aceptar sin comprobar.
¿Qué pasó con el informe de Deloitte que tuvo que devolver dinero?
En 2025, Deloitte Australia entregó al gobierno australiano un informe sobre tendencias del mercado laboral elaborado con apoyo de un modelo de Inteligencia Artificial, GPT-4o. El documento incluía citas y referencias que, al revisarse, resultaron inventadas: fuentes que no existían, presentadas con el mismo formato y el mismo aplomo que las fuentes reales. Deloitte tuvo que reembolsar los honorarios cobrados por el trabajo.
No fue un becario despistado ni un error de imprenta. Fue una de las consultoras más grandes del mundo entregando, con su firma detrás, un documento cuya solidez dependía de referencias que nunca existieron.
¿Por qué una consultora de ese tamaño no lo detectó antes de entregarlo?
Porque el problema de una Inteligencia Artificial que inventa no es que invente mal. Es que inventa igual de bien, en forma y en tono, que cuando dice la verdad. Una cita fabricada por un modelo de lenguaje tiene el mismo formato, el mismo estilo de redacción y la misma seguridad aparente que una cita real. No hay una señal visible que distinga a una de otra sin verificarla.
Esa es la trampa exacta en la que cayó ese informe, y en la que cae cualquiera que confunda fluidez con exactitud. Un texto bien escrito convence antes de que nadie compruebe si lo que dice es cierto.
¿Por qué la seguridad en el tono no dice nada sobre si algo es verdad?
Una Inteligencia Artificial no calcula su nivel de confianza en la respuesta y lo traslada a cómo la redacta. Redacta con el mismo estilo firme tanto si tiene un dato verificado detrás como si está completando un hueco con la opción estadísticamente más probable según su entrenamiento. Para el sistema, no hay diferencia de tono entre «sé esto con certeza» y «esto suena a lo que debería decir aquí».
Para un humano, en cambio, el tono seguro suele ser una señal fiable de que la otra persona sabe de lo que habla. Llevamos toda la vida usando esa señal para decidir en quién confiar. Con una Inteligencia Artificial, esa misma señal deja de servir, y casi nadie ha actualizado el reflejo.
¿Dónde he visto yo este mismo error en mis propios clientes?
En 27 años de consultoría he visto el mismo patrón muchas veces, antes incluso de que existiera la Inteligencia Artificial generativa: la persona que habla con más seguridad en una reunión no siempre es la que tiene razón, y sin embargo suele ser la que convence primero. La diferencia es que, con un colega o un proveedor, uno acaba conociendo sus patrones, sabe cuándo tiende a exagerar y cuándo es fiable. Con una Inteligencia Artificial ese historial no existe, porque cada respuesta se genera de cero, sin memoria del error anterior.
He visto a profesionales con mucha experiencia aceptar una cifra, una fecha o una referencia legal que les dio un modelo de Inteligencia Artificial sin comprobarla, precisamente porque el tono con el que se la dieron era el mismo tono con el que ellos mismos hablan cuando están seguros de algo.
¿Es peor cuanto más experto eres tú en la materia, o menos?
Es más peligroso justo cuando el tema no es tu especialidad. Si te preguntan por tu propio campo de trabajo, es más probable que detectes un error, aunque no siempre: el caso de Deloitte demuestra que ni siquiera los expertos revisan con el mismo cuidado un informe que ya viene redactado con apariencia de estar terminado. Cuando el tema se aleja de tu experiencia directa, la única señal que te queda para juzgar si algo es cierto es precisamente la que menos sirve con una Inteligencia Artificial: lo segura que suena.
Es una paradoja incómoda. Cuanto menos sabes de un tema, más dependes del tono de quien te informa. Y el tono, con una Inteligencia Artificial, es la peor brújula posible.
¿Qué tipo de errores son los más peligrosos, los grandes o los pequeños?
Los pequeños, casi siempre. Un error enorme y evidente se detecta solo, porque choca de forma visible con lo que ya sabes. El error peligroso es el que se mezcla con nueve datos correctos y uno falso, con la fecha equivocada en medio de un párrafo perfecto, con la cita casi real pero ligeramente distinta a la original. Ese tipo de error pasa los filtros de una revisión rápida precisamente porque el conjunto suena coherente.
El informe de Deloitte no falló porque todo el documento fuera inventado. Falló porque la mayoría del contenido era sólido y unas pocas referencias, mezcladas entre las demás, no lo eran. Eso es lo que hace que se cuele.
¿Qué costumbre concreta ayuda a protegerte de este problema?
No hace falta desconfiar de todo lo que produce una Inteligencia Artificial, eso sería tan poco útil como confiar en todo sin filtro. Lo que ayuda de verdad es tratar cualquier dato concreto, una cifra, una cita, un nombre propio, una fecha, como algo que se verifica siempre, sin importar cuánta seguridad transmita el texto que lo rodea. La verificación no depende de si el texto suena convincente. Depende de si la fuente existe y dice lo que se afirma que dice.
Es la misma disciplina que aplicaría cualquier consultor serio con una fuente humana desconocida: no se rechaza por sistema, se comprueba antes de repetirla como propia.
¿Qué enseña este caso sobre el criterio, más allá de la tecnología?
Enseña algo que ya era cierto antes de que existiera la Inteligencia Artificial generativa, pero que ahora se nota con más fuerza: el criterio no consiste en detectar cuándo alguien duda. Consiste en saber cuándo hay que dudar tú, incluso cuando la fuente no lo hace. Ese hábito no lo entrena la tecnología. Lo entrena la experiencia de haberte equivocado alguna vez por fiarte del tono equivocado.
Ese es, en el fondo, el valor real de la experiencia frente a una herramienta que nunca ha vivido la consecuencia de estar equivocada. Uno aprende a dudar porque alguna vez pagó el precio de no hacerlo. La Inteligencia Artificial no paga ningún precio, y por eso nunca aprende a bajar el tono cuando debería.
No es un caso aislado. Ya lo tratamos con más detalle en Avatares que cantan: la nueva industria que está naciendo ahora mismo, y el mismo mecanismo aparece en Tienes reputacion. Otra cosa distinta es que alguien pueda encontrarla.
Sobre el autor
Javier G. Amblar es consultor estratégico con 27 años de experiencia y ha formado a más de 33.000 profesionales en 55 países. Fue profesor asociado del IE Business School con Premio a la Excelencia Docente, ha colaborado con RTVE, Telemadrid, Onda Cero y EsRadio, y es autor del libro Liderazgo (Editatum, 2018). Dirige una comunidad en línea de más de 500.000 personas y un canal de YouTube con más de 368.000 suscriptores. Comparte su criterio sobre Inteligencia Artificial y negocio en RADAR, su servicio de visibilidad y reputación ante los motores de Inteligencia Artificial.
