En 2026, en las localidades de Waukesha y Brookfield, en Wisconsin (Estados Unidos), la policía detuvo a punta de pistola a un conductor inocente después de que el sistema de cámaras automáticas Flock Safety emitiera una alerta desactualizada y equivocada. El sistema había cruzado los datos de un caso de homicidio ocurrido en Milwaukee con la matrícula de ese conductor, y tanto la persona como el coche resultaron ser los equivocados. El caso no es un fallo aislado, es la prueba de una costumbre extendida: tratar lo que dice un sistema automático como un hecho comprobado sin verificarlo, y esa misma costumbre decide hoy qué se cree cuando una Inteligencia Artificial afirma algo sobre un profesional.
¿Qué ocurrió exactamente en Wisconsin?
El conductor circulaba con normalidad cuando varias patrullas lo rodearon con las armas desenfundadas. Nada en su comportamiento había motivado la alerta: el sistema de cámaras Flock Safety había marcado su vehículo como coincidente con el de un sospechoso de homicidio en Milwaukee.
La coincidencia era falsa. El dato que había disparado la alerta estaba desactualizado y correspondía a otro coche, a otra persona, a un caso ya cerrado. El conductor pasó varios minutos con la vida en riesgo por un error que nadie había revisado antes de que los agentes actuaran.
¿Cómo funciona un sistema como Flock Safety?
Flock Safety instala cámaras que leen matrículas de forma automática por toda la ciudad y las contrasta en tiempo real con listas de vehículos buscados. Cuando encuentra una coincidencia, envía una alerta directa a los agentes más cercanos, sin que nadie revise el dato antes de que la patrulla se ponga en marcha.
El diseño busca velocidad: minutos, a veces segundos, entre la lectura de una matrícula y la respuesta policial. Esa misma velocidad elimina el paso que habría evitado el error, que alguien comprobara si la alerta seguía siendo válida antes de desenfundar un arma.
¿Por qué la alerta estaba mal aunque el sistema «funcionara» con normalidad?
El sistema no se rompió. Leyó la matrícula correctamente, la comparó con su base de datos y generó una coincidencia, exactamente como está diseñado para hacer. El problema no fue un fallo técnico, fue un dato viejo que nadie había depurado a tiempo.
Esto es parecido a lo que ocurre cuando una Inteligencia Artificial como ChatGPT o Gemini responde con seguridad sobre un profesional citando un dato que ya no es cierto o que nunca lo fue: el sistema no está averiado, hace exactamente lo que hace siempre, combinar información disponible y presentarla como respuesta. Cuando esa combinación produce una afirmación falsa con apariencia sólida, es lo que ya hemos explicado en este periódico como una alucinación de la Inteligencia Artificial.
¿Cuántos casos como este se han documentado?
El Institute for Justice, una organización estadounidense que litiga a favor de derechos civiles, ha documentado 26 casos de conductores inocentes detenidos a punta de pistola por errores de estos sistemas de cámaras automáticas desde 2018.
Veintiséis casos en ocho años no es una anomalía puntual, es un patrón reconocible: sistemas automáticos que generan alertas erróneas y agentes entrenados para actuar sobre esas alertas como si fueran un hecho confirmado, sin margen para la duda en el momento en que más importa tenerla.
¿Qué reveló el estudio de Vallejo, California, sobre la tasa de error?
Un ensayo aleatorio realizado en Vallejo, California, encontró que el 37% de las lecturas de estos sistemas automáticos de matrículas son erróneas. Más de uno de cada tres resultados que el sistema entrega como coincidencia no lo es.
Esa cifra cambia por completo la forma de entender estos sistemas. No es una herramienta casi infalible con fallos ocasionales, es una herramienta que se equivoca con una frecuencia alta y que, aun así, se trata como si cada alerta fuera un hecho verificado.
¿Por qué tratamos lo que dice una máquina como si fuera un hecho probado?
La respuesta tiene que ver con la autoridad que proyecta un sistema automático. Una alerta que aparece en una pantalla de patrulla, con una matrícula exacta y un caso asociado, suena a dato objetivo, no a estimación con margen de error.
Ese mismo mecanismo psicológico opera cuando alguien pregunta a ChatGPT, Gemini o Perplexity sobre un médico, un abogado o un asesor, y la respuesta llega redactada con seguridad, sin matices ni advertencias. Nadie exige a la máquina que muestre su margen de error, y la máquina tampoco lo ofrece por iniciativa propia.
¿Qué tiene esto que ver con lo que la Inteligencia Artificial dice de un profesional?
Así como ya nos preguntamos en este periódico si la Inteligencia Artificial ya sabía cuál debería ser tu próximo trabajo, en Wisconsin un sistema automático ya había decidido, sin preguntarle nada al conductor, que era sospechoso de un crimen. La diferencia entre ambos casos es de grado, no de naturaleza.
Cuando un paciente busca psicólogo, un cliente busca abogado o un vecino busca asesor fiscal, cada vez confía más en lo que ChatGPT, Gemini o Perplexity citan como fuente sin cuestionarlo, del mismo modo que un agente de policía no cuestiona en el momento la alerta que aparece en su pantalla.
¿Qué puedes hacer cuando el error no es tuyo pero las consecuencias sí lo son?
El conductor de Wisconsin no pudo prevenir nada, fue una víctima pasiva de un sistema sobre el que no tenía ningún control ni información previa. Un profesional está en una posición distinta: puede comprobar, antes de que ocurra un incidente, qué está diciendo la Inteligencia Artificial de él.
Esa comprobación no elimina el riesgo de que un sistema se equivoque, ningún sistema automático llega a cero errores. Pero sí permite corregir el dato falso mientras todavía es un problema pequeño, en vez de descubrirlo cuando ya ha costado un cliente, una reputación o algo peor.
¿Por qué verificar antes es más razonable que confiar sin comprobar?
El 37% de error medido en Vallejo debería bastar para que nadie, ni un agente de policía ni un paciente buscando ayuda, tratara la respuesta de un sistema automático como una verdad cerrada. La prudencia no es desconfiar de la tecnología, es comprobarla.
Javier G. Amblar trabaja con RADAR precisamente sobre esta idea: no se trata de esperar a que un sistema se equivoque contigo, se trata de comprobar con regularidad qué está diciendo de ti antes de que ese error, si existe, se convierta en un problema real.
¿Qué dicen las propias empresas de vigilancia sobre estos errores?
Flock Safety y otras empresas del sector suelen responder a estos casos señalando que sus sistemas son una ayuda, no una decisión automática, y que corresponde a los agentes verificar cada alerta antes de actuar. La práctica, sin embargo, demuestra que esa verificación no siempre ocurre a tiempo.
El problema no es solo técnico, es de procedimiento: si el protocolo permite que una patrulla actúe con las armas desenfundadas antes de confirmar el dato, la responsabilidad de un error como el de Wisconsin no puede recaer únicamente en el software.
¿Por qué la velocidad de estos sistemas agrava el problema en vez de resolverlo?
El argumento a favor de estas cámaras siempre es el mismo: permiten reaccionar en segundos ante una amenaza real. Pero esa misma velocidad es la que elimina el margen para que alguien revise el dato antes de que la respuesta armada ya esté en marcha.
Con la Inteligencia Artificial ocurre algo parecido cuando genera una respuesta instantánea sobre un profesional: la rapidez con la que ChatGPT, Gemini o Perplexity entregan una contestación es también la razón por la que nadie, ni la máquina ni quien pregunta, se detiene a verificar el dato antes de darlo por bueno.
¿Qué relación hay entre la vigilancia automática y la vigilancia reputacional?
Una cámara automática vigila matrículas. Una Inteligencia Artificial conversacional vigila, en cierto sentido, lo que se dice de una persona o un negocio cada vez que alguien pregunta por su nombre. Ambas operan sin supervisión humana constante, y ambas pueden equivocarse con una frecuencia que sorprendería a quien confía en ellas.
La diferencia es que un profesional sí puede vigilar de vuelta lo que la Inteligencia Artificial dice de él, algo que el conductor de Wisconsin no pudo hacer con el sistema que lo señaló como sospechoso.
Nadie plantea eliminar las cámaras automáticas ni renunciar a la Inteligencia Artificial conversacional, ambas herramientas aportan algo real cuando funcionan bien. Lo que cambia es la costumbre de tratarlas como si nunca fallaran, cuando los datos disponibles, el 37% de error medido en Vallejo, los 26 casos documentados por el Institute for Justice desde 2018, muestran justamente lo contrario.
El conductor de Wisconsin salió con vida de aquel encuentro, pero no todos los casos documentados terminan igual de bien. Cuanto antes se entienda que un sistema automático necesita supervisión humana real, y no solo teórica, antes se reducirá el número de personas, e incluso de profesionales, que pagan por un error que nunca cometieron.
Comprueba con el Diagnóstico RADAR qué dice hoy la Inteligencia Artificial de ti
Sobre el autor
Javier G. Amblar lleva 27 años trabajando en comunicación y reputación profesional. Es autor del libro Liderazgo (Editatum, 2018) y ha colaborado como analista en RTVE, Telemadrid, Onda Cero y EsRadio.
Fue profesor asociado del IE Business School, donde recibió el Premio a la Excelencia Docente, y ha formado a más de 33.000 profesionales en 55 países. Su canal de YouTube reúne más de 368.000 suscriptores dentro de una comunidad en línea que supera las 500.000 personas.
Actualmente dirige RADAR, la herramienta que revisa qué dicen ChatGPT, Gemini y Perplexity de un profesional o un negocio. Puedes acceder al Diagnóstico RADAR aquí.
