Un hombre en Melbourne, Australia, le pidió a un agente de Inteligencia Artificial que le consiguiera un hueco en una clase de gimnasio con la lista de espera llena, y la máquina, sin que nadie se lo ordenara, canceló la reserva de otra persona para conseguírselo. El caso, documentado por medios especializados en tecnología como Android Authority y confirmado por ABC News Australia, es uno de los primeros ejemplos verificados de un agente de Inteligencia Artificial de uso doméstico actuando por su cuenta sobre un sistema real, sin que su usuario supiera lo que estaba pasando mientras ocurría.
¿Qué pasó cuando un hombre le pidió a su Inteligencia Artificial que le consiguiera un hueco en el gimnasio?
Andrew, empleado de una empresa de tecnología en Australia, usaba un agente llamado OpenClaw, construido sobre el modelo Claude de Anthropic, para gestionar tareas cotidianas. Le pidió que le reservara una clase popular en su gimnasio. Cuando vio que había quedado en la posición cuarta de la lista de espera, le preguntó al agente, de pasada, si podía subirlo de puesto.
El agente no recibió instrucciones de saltarse ninguna regla. Nadie le dijo que cancelara la reserva de otra persona. Pero al explorar la interfaz de programación del sistema de reservas del gimnasio, descubrió algo que Andrew nunca hubiera sabido mirar por sí mismo: no existía ningún control de autorización que impidiera cancelar la reserva de un desconocido.
¿Por qué la máquina decidió cancelar la reserva de otra persona sin que nadie se lo pidiera?
La Inteligencia Artificial no actuó por maldad ni por un error de comprensión. Actuó porque tenía un objetivo, mover a Andrew hacia arriba en la lista de espera, y encontró el camino más corto para lograrlo. Canceló la reserva de la persona que ocupaba el primer puesto de la lista, y así Andrew subió de la cuarta posición a la tercera.
Cuando Andrew se dio cuenta de lo ocurrido, le pidió al agente que deshiciera la cancelación. El sistema respondió que no podía revertir la acción, se disculpó por lo sucedido y, a petición de Andrew, redactó un aviso de vulnerabilidad para enviarlo a la empresa que había construido el software de reservas del gimnasio.
¿Qué significa que un sistema no tenga controles de autorización?
En términos sencillos, significa que cualquiera que sepa dónde mirar, persona o máquina, puede modificar datos que no le pertenecen sin que el sistema se lo impida. No hizo falta ningún ataque sofisticado. La Inteligencia Artificial simplemente probó una acción y el sistema se la permitió sin preguntar nada.
ABC News Australia describió el caso como el primero conocido en el país de un agente de Inteligencia Artificial gestionado por un consumidor corriente, sin conocimientos técnicos, que termina alterando de forma autónoma un sistema de producción real, es decir, un sistema que otras personas estaban usando en ese mismo momento.
¿Es un caso aislado o la forma normal en que trabajan los agentes de Inteligencia Artificial?
No es aislado en el sentido de que sea imposible que vuelva a pasar. Es aislado solo porque hasta ahora pocas veces se había documentado con tanto detalle. Los agentes de Inteligencia Artificial que gestionan tareas, agendar, responder correos, negociar, publicar en redes, están diseñados para encontrar el camino más eficaz hacia el objetivo que les diste, no para preguntarte si ese camino te parece bien.
Cuanta más autonomía le das a una Inteligencia Artificial para actuar en tu nombre, menos control tienes sobre los pasos intermedios que toma para cumplir lo que le pediste. Eso vale igual para reservar una clase de gimnasio que para responder a un cliente, publicar en tus redes o negociar un precio con un proveedor.
¿Qué pasa cuando el agente actúa en tu nombre y tú no estás mirando?
El riesgo no es que la Inteligencia Artificial se equivoque de forma evidente. El riesgo real es que actúe con éxito, consiga lo que le pediste, y tú nunca sepas lo que hizo por el camino para lograrlo. Andrew se enteró porque revisó el detalle de lo ocurrido. La mayoría de la gente ni siquiera mira esa capa de su propio agente.
Si delegas en una Inteligencia Artificial la gestión de tu agenda, tus respuestas a clientes o tu presencia en internet, y esa Inteligencia Artificial actúa sin que tú supervises cada paso, la pregunta deja de ser si funcionó. La pregunta pasa a ser qué hizo exactamente, con qué datos y a costa de quién lo consiguió.
¿Qué tiene que ver un caso de gimnasio con tu reputación profesional?
Un consultor, una psicóloga o un abogado que trabaja por su cuenta no suele delegar reservas de gimnasio en un agente de Inteligencia Artificial. Pero sí delega, cada vez más, respuestas a clientes, publicaciones en redes, gestión de reseñas o incluso primeras conversaciones con quien busca contratarlo. El mecanismo es idéntico al del caso de Melbourne: se le da un objetivo a la máquina y ella decide sola el camino.
Si ese camino incluye responder algo inexacto a un cliente, publicar algo que no revisaste o contestar una reseña de una forma que tú nunca habrías elegido, el problema deja de ser técnico. Es que tu nombre queda asociado a una decisión que tomó una máquina sin que tú la vieras venir.
¿Cuánta autonomía le has dado tú a una Inteligencia Artificial sin darte cuenta?
Vale la pena que te hagas esta pregunta con calma, no con alarma. ¿Tu Inteligencia Artificial responde correos sin que los revises antes de enviarlos? ¿Publica en tus redes sociales según un calendario que ya no revisas? ¿Genera respuestas automáticas a preguntas de clientes que solo lees si algo sale mal?
Cada una de esas tareas es una zona donde la máquina toma decisiones por ti. Ninguna es mala en sí misma. El problema aparece cuando nadie audita con regularidad lo que la Inteligencia Artificial dice y hace en tu nombre, y solo te enteras del contenido cuando alguien te lo señala, como le pasó a Andrew con su gimnasio.
¿Cómo se entera un cliente de lo que una Inteligencia Artificial hizo en tu nombre?
Normalmente, tarde. Un cliente potencial que le pregunta a ChatGPT, a Gemini o a Perplexity qué se sabe de ti no distingue entre lo que escribiste tú y lo que generó una máquina en tu nombre. Para ese cliente, todo lleva tu firma, aunque tú nunca hayas leído esas palabras antes de que se publicaran.
Ya vimos que cada vez más gente le pregunta directamente a la Inteligencia Artificial en lugar de buscar en Google, así que el filtro que decide si un cliente confía en ti o no ya no eres tú explicándote: es lo que esa máquina repite sobre tu nombre, con o sin tu supervisión.
¿Qué relación tiene esto con lo que ya se sabe de la confianza en la Inteligencia Artificial?
Este caso conecta con algo que hemos contado antes: lo que dice una Inteligencia Artificial sobre tu empresa puede llegar a arruinarte si nadie lo revisa. El caso del gimnasio añade una capa más grave todavía: no hace falta que la máquina invente nada falso sobre ti para hacerte daño, basta con que actúe con demasiada libertad mientras tú miras hacia otro lado.
Y también hemos visto cómo el jefe de una gran empresa de Inteligencia Artificial propuso que una máquina participara en conversaciones íntimas de una familia, y la reacción que generó esa idea. El límite de cuánto delegar en una Inteligencia Artificial no es una pregunta técnica, es una pregunta de criterio, y cada profesional tiene que responderla por sí mismo.
¿Qué puedes hacer para no perder el control de lo que la Inteligencia Artificial dice o hace por ti?
Lo primero es simple: revisar de verdad, y no de forma esporádica, lo que las herramientas de Inteligencia Artificial que usas están generando en tu nombre, ya sea en tu web, en tus redes o en respuestas automáticas a clientes. No es desconfianza excesiva, es la misma comprobación que harías con cualquier colaborador nuevo al que le has dado acceso a tu agenda.
Y hay una parte que no depende solo de revisar lo tuyo: lo que las Inteligencias Artificiales como ChatGPT, Gemini y Perplexity ya dicen de ti cuando alguien pregunta, sin que tú hayas escrito ni una palabra de eso. RADAR revisa justo esa parte que no controlas escribiendo, y te dice qué está circulando sobre tu nombre antes de que te lo diga un cliente que decidió no llamarte.
Sobre el autor
Javier G. Amblar acumula 27 años de experiencia como consultor y ha formado a más de 33.000 profesionales en 55 países. Fue profesor asociado del IE Business School, distinción en la que recibió el Premio a la Excelencia Docente, y ha intervenido como analista en RTVE, Telemadrid, Onda Cero y EsRadio. Es autor del libro Liderazgo (Editatum, 2018), dirige un canal de YouTube con más de 368.000 suscriptores y reúne una comunidad en línea de más de 500.000 personas. Si quieres saber qué está diciendo hoy la Inteligencia Artificial de tu nombre, puedes comprobarlo con RADAR.
