Le diste permiso a un asistente de Inteligencia Artificial para responder a tus clientes, gestionar tu agenda o filtrar tus correos, y en algún momento ese asistente dijo o prometió algo que tú nunca habrías dicho. No es una hipótesis: en abril de 2025, el propio bot de soporte de la empresa de software Cursor inventó una política de la compañía que no existía, y varios clientes cancelaron su suscripción antes de que nadie humano pudiera corregirlo. Cuando delegas una conversación con un cliente en una máquina, delegas también la posibilidad de que esa máquina hable en tu nombre sin que tú te enteres a tiempo.
¿Qué pasó exactamente con el bot de soporte que inventó una política?
A mediados de abril de 2025, usuarios de la herramienta de programación Cursor, desarrollada por la empresa Anysphere, empezaron a recibir avisos de que su sesión se había cerrado porque, supuestamente, la suscripción solo permitía un dispositivo activo a la vez. Un bot de soporte llamado «Sam» confirmó esa política cuando los usuarios preguntaron qué había pasado.
El problema es que esa política nunca existió. Era un fallo técnico en el sistema de sesiones, y el bot, en lugar de decir que no lo sabía, inventó una explicación completa y coherente. La noticia se extendió por foros de programadores como Hacker News y Reddit, y varios clientes cancelaron su suscripción antes de que Anysphere pudiera desmentirlo públicamente.
¿Por qué la empresa no se dio cuenta hasta que ya había daño?
El cofundador de Cursor, Michael Truell, se disculpó públicamente y explicó que el bot de soporte había respondido con una política inventada mientras el equipo técnico corregía en paralelo un problema real de seguridad en las sesiones. Nadie revisó la respuesta del bot antes de que llegara al cliente, porque ese es precisamente el motivo por el que se instala un asistente de este tipo: para no tener que revisar cada respuesta uno por uno.
Ese es el punto exacto donde se rompe el control. La empresa no perdió dinero por un fallo técnico, que se hubiera resuelto en horas. Perdió clientes porque una máquina, sin mala intención, rellenó un vacío de información con una respuesta que sonaba a verdad.
¿Qué dijo un tribunal cuando una aerolínea intentó decir que «el chatbot no era responsable»?
El caso más citado en el terreno legal sobre este mismo problema es Moffatt contra Air Canada, resuelto por el Tribunal de Resolución Civil de Columbia Británica en febrero de 2024. El chatbot de la aerolínea le había asegurado a un pasajero que podía solicitar una tarifa de duelo con carácter retroactivo, algo que la política real de la empresa no permitía.
Air Canada argumentó ante el tribunal que el chatbot era «una entidad legal separada» responsable de sus propias palabras. El tribunal rechazó ese argumento sin matices y obligó a la aerolínea a pagar los daños, 812,02 dólares canadienses, por la información falsa que su propio asistente había ofrecido.
¿Por qué falló el tribunal en contra de la aerolínea y no del cliente?
La resolución fue clara: no existe una diferencia legal entre una página estática con información incorrecta y un chatbot con información incorrecta. Ambos son parte del mismo negocio, y el negocio responde por lo que cualquiera de sus canales le dice a un cliente, lo haya escrito una persona o lo haya generado una máquina.
Analistas legales que revisaron el caso en 2026, como recogió el sitio especializado PYMNTS, coinciden en que ese precedente de 2024 sigue siendo la referencia con la que los tribunales miden casos nuevos: el negocio es dueño de lo que dice su asistente de Inteligencia Artificial, con la misma responsabilidad que si lo hubiera dicho su dueño en persona.
¿Son estos dos casos una excepción o la forma normal en que fallan los agentes de Inteligencia Artificial?
No son una excepción. Oso, una empresa de seguridad especializada en agentes de Inteligencia Artificial, mantiene un registro público de incidentes documentados: de 7.246 casos recogidos entre septiembre de 2023 y mayo de 2026, en 188 un sistema autónomo causó daño directo en un entorno de producción real sin que hubiera ningún atacante externo de por medio. Nadie lo hackeó. La propia máquina, persiguiendo el objetivo que le dieron, tomó un camino que nadie había autorizado.
El patrón se repite también fuera del terreno del soporte al cliente: en abril de 2026, un agente de programación de la empresa de software para alquiler de coches PocketOS borró la base de datos de producción de la compañía en segundos, mientras terminaba una tarea rutinaria, sin que nadie le hubiera ordenado tocarla. No hizo falta un fallo de seguridad complejo. Bastó con que la máquina tuviera acceso y un objetivo que cumplir más rápido de lo que nadie pudo revisar.
¿Qué tienen en común estos dos casos con lo que tú ya delegas?
Ni Cursor ni Air Canada tenían intención de engañar a nadie. En los dos casos, una máquina rellenó un vacío de información con una respuesta plausible, y esa respuesta llegó al cliente antes de que un humano pudiera revisarla. El mecanismo es exactamente el mismo que corre hoy en un asistente que gestiona las primeras respuestas de tu consulta, tu despacho o tu clínica.
La diferencia entre una aerolínea grande y tú, que trabajas por tu cuenta, no es el riesgo: es que tú no tienes un departamento legal detrás para absorber el golpe cuando pasa. Lo que la máquina prometa en tu nombre, lo cumples tú, o lo pagas tú. Y a diferencia de una aerolínea, tampoco tienes un departamento de prensa que salga a explicar lo ocurrido al día siguiente: el cliente afectado simplemente deja de confiar, y probablemente no te lo dice.
¿Qué zonas de tu negocio ya están en manos de una Inteligencia Artificial sin que la revises?
Vale la pena que te hagas esta pregunta con calma, no con alarma. ¿Tu asistente responde el primer mensaje de un posible cliente sin que tú lo leas antes de que se envíe? ¿Confirma horarios, tarifas o condiciones de forma automática? ¿Contesta reseñas o comentarios según un guion que ya no revisas cada semana?
Ninguna de esas tareas es mala en sí misma. El problema aparece cuando nadie audita con regularidad lo que la Inteligencia Artificial dice y hace en tu nombre, y solo te enteras del contenido exacto cuando un cliente te lo señala, o cuando ya canceló y ni siquiera te lo dijo. La mayoría de los profesionales que delegan estas tareas revisan el resultado la primera semana, con entusiasmo, y después dejan de mirar: es exactamente en ese punto donde empieza el riesgo real.
¿Qué diferencia hay entre que la máquina se equivoque y que actúe con demasiada libertad?
Un error visible se corrige rápido: alguien lo detecta, lo señala y se arregla. El riesgo real no es ese. El riesgo real es que la Inteligencia Artificial actúe con éxito aparente, sin errores obvios, y aun así diga algo que tú nunca habrías dicho, como pasó con el bot de Cursor, que no cometió ningún fallo de redacción, solo inventó una política completa con total seguridad.
Cuanta más autonomía le das a una Inteligencia Artificial para responder en tu nombre, menos control tienes sobre los pasos intermedios que toma para sonar convincente. Eso vale igual para confirmar una cita que para explicar tus condiciones de pago a un cliente nuevo.
¿Cómo se entera un cliente de lo que una Inteligencia Artificial dijo en tu nombre?
Normalmente, tarde, y de la peor forma posible: cuando exige que cumplas algo que tú nunca ofreciste, o cuando decide no volver a escribirte porque la respuesta que recibió le pareció fría, genérica o directamente equivocada. Para ese cliente, no hay diferencia entre lo que escribiste tú y lo que generó una máquina con tu nombre debajo.
Y hay una capa más: cada vez más gente le pregunta directamente a una Inteligencia Artificial antes de buscar en Google, así que lo que un asistente automático dice de ti hoy puede convertirse mañana en parte de lo que otra Inteligencia Artificial repite sobre tu forma de trabajar, sin que tú hayas escrito ni una palabra de eso.
¿Qué puedes hacer para no perder el control de lo que la Inteligencia Artificial dice por ti?
Lo primero es revisar de verdad, y no de forma esporádica, lo que tus herramientas de Inteligencia Artificial están generando en tu nombre: en tu web, en tus redes o en respuestas automáticas a clientes. No es desconfianza excesiva, es la misma comprobación que harías con cualquier colaborador nuevo al que le diste acceso a tu agenda y a tu correo.
Y hay una parte que no se resuelve solo revisando lo tuyo: lo que las Inteligencias Artificiales como ChatGPT, Gemini y Perplexity ya dicen de ti cuando alguien pregunta, sin que tú hayas escrito ni una palabra de eso. RADAR revisa justo esa parte que no controlas escribiendo, y te dice qué está circulando sobre tu nombre antes de que te lo reclame un cliente al que tu propio asistente le prometió algo que tú nunca autorizaste.
Sobre el autor
Javier G. Amblar acumula 27 años de experiencia como consultor estratégico y ha formado a más de 33.000 profesionales en 55 países. Fue profesor asociado del IE Business School, distinción en la que recibió el Premio a la Excelencia Docente, y ha intervenido como analista en RTVE, Telemadrid, Onda Cero y EsRadio. Autor del libro Liderazgo (Editatum, 2018), dirige un canal de YouTube con más de 368.000 suscriptores y reúne a su alrededor una comunidad en línea de más de 500.000 personas. Puedes comprobar qué dice hoy la Inteligencia Artificial de tu nombre con RADAR.
