El Gobierno impulsa medidas contra la violencia digital y sesgos de género en la inteligencia artificial

La AESIA y el Instituto de las Mujeres firman un convenio para combatir la violencia digital y sesgos de género en la inteligencia artificial y colaborarán con la Comisión Europea en la investigación sobre el asistente Grok de la red social X.

La Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) y el Instituto de las Mujeres han firmado este jueves un convenio de colaboración para combatir la violencia digital y sesgos de género en la inteligencia artificial, en el marco de los actos previos al 8 de marzo, Día Internacional de la Mujer.

El acuerdo se ha suscrito en Madrid durante el acto “Igualdad Digital Ya”, con la participación del ministro para la Transformación Digital y de la Función Pública, Óscar López, y la ministra de Igualdad, Ana Redondo.

Según ha informado el Ministerio para la Transformación Digital en una nota de prensa, ambas entidades establecerán un marco de cooperación para integrar la perspectiva de género en el ciclo de supervisión y uso de sistemas de inteligencia artificial en España. El objetivo es reforzar la protección de los derechos fundamentales de mujeres y menores en el entorno digital.

Uno de los ejes del acuerdo es la colaboración con la Comisión Europea en los procedimientos abiertos contra la red social X y su asistente de inteligencia artificial, Grok. El ministro Óscar López avanzó que la AESIA aportará evidencias técnicas y documentales a las investigaciones europeas sobre el uso de sistemas que permiten generar imágenes sexualizadas manipuladas sin consentimiento.

En concreto, se investigan prácticas como la alteración de imágenes de menores para crear desnudos falsos mediante herramientas de inteligencia artificial. En la recopilación de documentación también ha participado el Instituto Nacional de Ciberseguridad (INCIBE).

El Instituto de las Mujeres remitirá por su parte un informe sobre la situación en España, que incluirá evidencias recopiladas por instituciones públicas y privadas relacionadas con la protección de los derechos fundamentales en el entorno digital.

El convenio establece que ambas entidades cooperarán en la detección, prevención y corrección de sesgos de género en sistemas de IA, especialmente en aquellos considerados de alto riesgo. La AESIA alertará sobre posibles riesgos en estos sistemas, compartirá documentación técnica, organizará pruebas y reforzará la formación de su personal en materia de igualdad.

Además, el acuerdo contempla acciones conjuntas de sensibilización y formación para promover una cultura de inteligencia artificial ética y alineada con el principio de igualdad. Las dos instituciones participarán de forma coordinada en el Laboratorio de Ideas de la AESIA para la elaboración de estudios, informes y actividades de participación ciudadana.

También se prevé la creación de una comisión de seguimiento que garantizará la planificación y continuidad de las actuaciones durante la vigencia del convenio.

Durante el acto, la ministra de Igualdad, Ana Redondo, señaló la necesidad de trasladar al entorno digital los avances logrados en materia de igualdad en otros ámbitos. Por su parte, el ministro Óscar López defendió la necesidad de reforzar la supervisión de las redes sociales y los sistemas de inteligencia artificial ante prácticas que puedan vulnerar derechos fundamentales.

En la declaración conjunta suscrita, ambas instituciones reconocen los esfuerzos regulatorios de la Unión Europea y solicitan que continúe liderando la lucha contra la violencia digital que afecta a mujeres y niñas. El texto advierte de que la difusión de contenidos misóginos o de odio en redes sociales puede tener consecuencias más allá del entorno digital, afectando a la participación pública y a la salud mental de las víctimas.

La firma del convenio se enmarca en las iniciativas del Gobierno con motivo del 8M y en el desarrollo del nuevo marco europeo de regulación de la inteligencia artificial, que refuerza las obligaciones de supervisión sobre sistemas considerados de alto riesgo.