Hemos revisado varias publicaciones que informan sobre el uso indebido de la inteligencia artificial (IA) y, recientemente, un estudio de DeepMind de Google ha revelado datos alarmantes. El principal uso indebido de la IA es la creación de deepfakes de políticos y celebridades, superando incluso los ataques cibernéticos asistidos por IA.
El auge de los deepfakes
Los deepfakes son una técnica que emplea la inteligencia artificial para crear videos, audios o imágenes falsos pero altamente realistas. Estos manipulan contenido visual y sonoro para hacer que una persona parezca decir o hacer algo que nunca ocurrió. Se usan frecuentemente para generar videos de políticos y celebridades con fines de desinformación, entretenimiento o fraude. Según un estudio, el 27% de los casos de uso indebido de deepfakes se destina a influir en la opinión pública, lo que genera preocupación por su capacidad de manipular elecciones y engañar a las masas. Pese a los esfuerzos de las redes sociales para identificar y eliminar este contenido, muchos usuarios aún no logran distinguir los deepfakes como falsos.
Impacto en la democracia
Ardi Janjeva del Instituto Alan Turing destacó los riesgos a largo plazo para la democracia debido a la desinformación generada por IA. Este es el primer estudio de DeepMind que cuantifica estos riesgos, analizando alrededor de 200 incidentes de uso indebido reportados en redes sociales y en línea entre enero de 2023 y marzo de 2024. La investigadora Nahema Marchal señaló que, aunque se teme a los ciberataques sofisticados, los deepfakes son más comunes y a menudo pasan desapercibidos.
Riesgos y reacciones globales
La preocupación global sobre los deepfakes ha ido en aumento. Jack Dorsey, cofundador de Twitter, advirtió sobre un futuro donde distinguir entre realidad y ficción será cada vez más difícil. En mayo, expertos en ciberseguridad alertaron sobre estafas con deepfakes que han costado millones a empresas. El gobierno del Reino Unido incluso anunció en abril planes para criminalizar la creación de imágenes explícitas falsas, señalando el rápido avance de la IA.
Nuestra opinión al respecto
Como equipo de investigación, pensamos que la proliferación de deepfakes es una amenaza significativa para la integridad de la información y la estabilidad democrática. Es crucial que tanto las plataformas digitales como los gobiernos implementen medidas más estrictas para combatir esta forma de desinformación. Además, es fundamental educar al público sobre cómo identificar y reportar contenido falso. La inteligencia artificial en español y en todo el mundo debe ser regulada de manera efectiva para prevenir estos abusos y proteger la veracidad de la información.
