Un usuario contó en un hilo de la comunidad r/ChatGPT, que superó los 148 puntos y los 130 comentarios, que ChatGPT le mencionó datos personales que él nunca le había escrito directamente en la conversación. No fue el único: decenas de personas respondieron en los comentarios reconociendo experiencias parecidas. Si una Inteligencia Artificial junta piezas sueltas sobre una persona sin que esa persona se lo haya contado, la pregunta lógica es qué hace esa misma máquina con toda la información pública que ya existe sobre el nombre y el negocio de un profesional.
¿Qué contó exactamente ese usuario de Reddit?
Describió que, en mitad de una conversación normal, ChatGPT hizo referencia a detalles de su vida que no había mencionado en ese chat. La explicación más probable no es magia ni vigilancia directa: es la capacidad del sistema para cruzar patrones de conversaciones anteriores, contexto guardado y datos que el propio usuario había compartido en otro momento, sin recordarlo.
Lo llamativo no es el mecanismo, que tiene explicación técnica razonable. Es que la persona no era consciente de haber dejado ese rastro, y aun así estaba ahí, disponible para que el sistema lo usara.
¿Por qué decenas de personas reconocieron lo mismo?
Porque no es un caso aislado, es un patrón de cómo funciona la memoria de estos sistemas cuando acumulan conversaciones a lo largo del tiempo. Cuantas más interacciones tiene una persona con una Inteligencia Artificial, más piezas sueltas quedan disponibles para que el sistema las combine y las presente como si fueran obvias.
Eso convierte una curiosidad de foro en un hecho relevante: la Inteligencia Artificial construye una versión de cada persona a partir de fragmentos que esa persona ni siquiera recuerda haber dejado.
¿Qué diferencia hay entre esto y lo que ya sabemos de la información pública?
La diferencia es de escala. Si ChatGPT puede reconstruir detalles de una conversación privada con fragmentos sueltos, el ejercicio con una persona pública, o con cualquier profesional que tenga web, redes y menciones en internet, es infinitamente más fácil. De dónde saca la Inteligencia Artificial lo que dice de ti deja de ser una pregunta abstracta cuando se sabe que el sistema ya demostró que sabe combinar piezas que nadie le entregó juntas.
Y esa combinación no siempre es correcta. Los datos inconsistentes sobre un negocio en internet son precisamente el tipo de material que un sistema así junta sin criterio, mezclando lo que es verdad, lo que ya caducó y lo que pertenece a otra persona.
¿Qué parte de esto depende de ti y qué parte no?
No depende de la persona evitar que un sistema de Inteligencia Artificial cruce datos sueltos: eso ya ocurre, con o sin permiso explícito para cada dato concreto. Lo que sí depende de cada quien es saber qué versión de esa combinación está circulando y si se ajusta a la realidad.
Ese es el punto en el que un usuario de Reddit y un profesional que vive de su reputación se encuentran con el mismo problema, aunque partan de preocupaciones distintas: los dos dependen de que la máquina no invente donde no sabe.
¿Qué tiene esto que ver con lo que ya se sabía del comportamiento de estos modelos?
El día que la Inteligencia Artificial empezó a parecerse al cerebro humano ya apuntaba a esto: cuanta más asociación de patrones hace un modelo, más se parece a alguien que recuerda cosas sueltas y las junta sin avisar. La diferencia es que un ser humano suele dudar antes de afirmar algo así. Un chatbot lo dice con la misma seguridad con la que responde cualquier otra pregunta.
Esa seguridad sin matices es lo que convierte una asociación de datos, a veces acertada y a veces no, en una afirmación que suena a hecho comprobado.
¿Qué queda por comprobar, entonces?
Queda una sola pregunta, y es la que importa: qué sabe de verdad la Inteligencia Artificial sobre un nombre concreto, y si lo que dice es verdad. No hace falta esperar a que alguien más lo note primero.
Averigua qué sabe de ti la Inteligencia Artificial y si es verdad
Sobre el autor
Javier G. Amblar lleva 27 años dedicado a la consultoría y ha formado a más de 33.000 profesionales en 55 países. Fue profesor asociado del IE Business School, con el Premio a la Excelencia Docente entre sus reconocimientos, y ha colaborado con RTVE, Telemadrid, Onda Cero y EsRadio. Es autor del libro Liderazgo (Editatum, 2018) y lidera un canal de YouTube de más de 367.000 suscriptores, dentro de una comunidad en línea de más de 500.000 personas. Comprueba aquí qué versión tuya está circulando ahora mismo.
