Hemos revisado varias publicaciones que informan sobre los sesgos en los modelos generadores de imágenes. Los investigadores del Technion han desarrollado métodos como TIME y ReFACT para corregir estos sesgos sin necesidad de retrain o fine-tuning, editando solo una pequeña fracción de los parámetros del modelo. Estas técnicas permiten actualizar la información y eliminar sesgos de forma eficiente y rápida. Además, se abordan problemas de comportamientos éticos no deseados, como la infracción de derechos de autor y sesgos sociales.
El desafío de los sesgos en los modelos generadores de imágenes
Hemos leído varias publicaciones y documentos sobre los sesgos presentes en los modelos generadores de imágenes, una tecnología que ha ganado popularidad en el último año gracias a los avances en inteligencia artificial (IA). Estos modelos, entrenados con grandes cantidades de datos imagen-texto, pueden generar imágenes a partir de descripciones textuales, pero también pueden internalizar suposiciones y sesgos de los datos del mundo real.
Hadas Orgad y Bahjat Kawar, del Technion – Israel Institute of Technology, explican que, aunque estos modelos aprenden suposiciones útiles como que «el cielo es azul», también incorporan suposiciones incorrectas o sesgos sociales. Por ejemplo, al solicitar una imagen de un CEO, solo el 4% de las veces se generará una imagen de una mujer.
Dana Arad, también del Technion, añade que estos modelos no pueden adaptarse a los cambios del mundo después de su entrenamiento inicial, lo que puede resultar en desactualizaciones significativas. La solución tradicional de corregir estos problemas mediante el retrain o fine-tuning del modelo es costosa y laboriosa, además de no garantizar el control sobre suposiciones no deseadas.
Nuevas técnicas para corregir sesgos
Para abordar estos desafíos, los investigadores han desarrollado métodos innovadores bajo la guía del Dr. Yonatan Belinkov. Uno de estos métodos es TIME (Text-to-Image Model Editing), creado por Orgad y Kawar. TIME permite la corrección rápida y eficiente de sesgos y suposiciones sin necesidad de retrain o fine-tuning. Esta técnica re-edita solo el 1.95% de los parámetros del modelo y realiza las correcciones en menos de un segundo.
Otro método es UCE, desarrollado en colaboración con las universidades de Northeastern y MIT, que controla comportamientos éticos indeseados del modelo, como la infracción de derechos de autor y los sesgos sociales. Además, Arad y Orgad han desarrollado ReFACT, un algoritmo que edita solo el 0.25% de los parámetros del modelo, logrando correcciones más precisas y manteniendo la calidad de las imágenes.
Aplicaciones y perspectivas futuras
Estos métodos permiten a los usuarios editar las suposiciones del modelo de manera precisa. Por ejemplo, si un modelo asume por defecto que las rosas son rojas, se puede ajustar para que genere rosas azules. Los investigadores han probado estos métodos con alrededor de 200 trabajos y suposiciones, demostrando su eficiencia en la actualización de información y corrección de sesgos.
¿Cuál es nuestra opinión al respecto?
Creemos que estos avances son cruciales para mejorar la equidad y la precisión de los modelos generadores de imágenes. La capacidad de corregir sesgos rápidamente y sin grandes costos abre nuevas posibilidades para el uso ético de la inteligencia artificial. Sin embargo, es esencial seguir investigando y perfeccionando estas técnicas para abordar los desafíos futuros y garantizar que estas tecnologías beneficien a toda la sociedad de manera justa.
