Hemos revisado diversas publicaciones que debaten si es posible mantener la inteligencia artificial (IA) bajo control. Una voz destacada en este debate es Jimmy Wales, fundador de Wikipedia, quien afirma que creer en tal control es similar a un «pensamiento mágico».
La postura de Jimmy Wales
Wales critica la comprensión de los políticos sobre el funcionamiento de Internet y la tecnología. Según él, proponer que un organismo como las Naciones Unidas regule la IA es tan absurdo como sugerir que regulen Photoshop. Considera que es un esfuerzo inútil y destaca que muchas veces, los políticos y sus asesores no entienden las capacidades reales de la tecnología.
La discusión sobre la regulación de la IA se intensificó este verano cuando el Secretario General de la ONU, António Guterres, convocó una reunión del Consejo de Seguridad de la ONU para discutir los peligros potenciales de la IA. Guterres subrayó la necesidad de acción para abordar riesgos como ataques cibernéticos potenciados por IA, malfuncionamientos, desinformación y la interacción entre IA y armas nucleares. Desde entonces, Guterres ha establecido un panel para investigar la necesidad de una regulación global, el cual presentará sus hallazgos iniciales antes de fin de año.
Escepticismo en la comunidad de IA
A pesar de estos esfuerzos, algunos expertos en IA son escépticos sobre la viabilidad de una regulación global. Pierre Haren, con 45 años de experiencia en IA, incluyendo su tiempo en IBM liderando el equipo que implementó la tecnología Watson, expresa su sorpresa ante el rápido avance de la IA generativa. Esta IA puede crear nuevo contenido y hacer analogías de alto nivel, lo cual, según Haren, se asemeja al pensamiento humano. Sin embargo, Haren duda que se puedan establecer reglas efectivas para controlar la IA, argumentando que naciones no cooperativas como Corea del Norte e Irán no reconocerían dichas regulaciones.
Iniciativas de la ONU
El físico Reinhard Scholl, fundador del programa «AI For Good» de la ONU, enfatiza la necesidad de regular la IA, comparándolo con las regulaciones de seguridad para automóviles y juguetes. Scholl señala que la IA facilita que actores malintencionados adquieran capacidades peligrosas, como el diseño de armas biológicas, sin necesidad de conocimientos profundos.
Una sugerencia para la regulación de la IA es crear un organismo similar a la Organización de Aviación Civil Internacional (OACI), que regula la seguridad del tráfico aéreo global y cuenta con 193 naciones miembros. Robert Opp, jefe de tecnología digital del Programa de las Naciones Unidas para el Desarrollo (PNUD), apoya esta idea. Opp destaca cómo la IA puede ayudar en tareas como la revisión rápida de imágenes satelitales de tierras agrícolas en áreas empobrecidas, sin querer restringir el potencial positivo de la IA.
Desafíos y opiniones divergentes
No obstante, Wales sostiene que las organizaciones internacionales están cometiendo un error al sobreestimar el papel de las grandes tecnológicas como Google en el desarrollo de productos de IA. Argumenta que, fuera de estas corporaciones, hay innumerables desarrolladores individuales que utilizan software de IA disponible libremente, y regular a estos desarrolladores es imposible.
¿Cuál es nuestra opinión al respecto?
Creemos que la regulación de la inteligencia artificial es un desafío complejo y multifacético. Aunque existen iniciativas y propuestas válidas para intentar controlar los riesgos asociados con la IA, la diversidad de actores involucrados, desde grandes corporaciones hasta desarrolladores individuales, complica enormemente la implementación de una regulación global efectiva. Aplaudimos los esfuerzos de la ONU y otros organismos por abordar esta cuestión, pero reconocemos que se necesitará una combinación de regulaciones, ética tecnológica y cooperación internacional para lograr un control significativo de la IA.
