Eurocámara vigilará la relación entre IA, desnudos falsos y pornografía infantil

La Comisión de Peticiones del Parlamento Europeo decidió hoy mantener abiertos y seguir analizando dos requerimientos para intervenir sobre el desarrollo de la inteligencia artificial (IA) para generar falsas imágenes pornográficas y, en particular, contenidos pedófilos.

Todos los grupos políticos que intervinieron en el debate coincidieron en el riesgo de la IA en relación con la proliferación de contenidos "ultrafalsos" relacionados con la pornografía o los desnudos no consentidos así como sobre la pornografía infantil.

También la Comisión Europea dijo ser consciente de los peligros que entraña el mal uso de esa tecnología y el Ejecutivo comunitario aseguró que vigilará de cerca la implementación de la novedosa normativa aprobada en marzo en la UE, que se convirtió en la primera jurisdicción del mundo en enmarcar legalmente la IA.

"Cada día son más las víctimas que han denunciado la creación y difusión de imágenes de contenido sexual elaboradas con inteligencia artificial sin su consentimiento, desde personas famosas como la cantante Taylor Swift o la actriz Emma Watson hasta las alumnas de un instituto en Almendralejo", señaló una de las peticionarias, Gabriela Vicente.

El pasado septiembre, ese pequeño municipio de la comunidad española de Extremadura saltó a los medios de comunicación internacionales cuando una veintena de madres y padres de adolescentes denunciaron que circulaban falsas fotos pornográficas de estas generadas con inteligencia artificial.

"No eran reales, pero sí que lo parecían porque fueron creadas con aplicaciones de inteligencia artificial como ClothOff o DeepNude que, para mi sorpresa, se encuentran al alcance de todos", dijo Vicente.

La segunda petición sobre el mismo asunto, presentada por Lorena Portavales Rodríguez -quien no intervino en la audiencia- se refería específicamente a la relación entre la IA y la pornografía infantil.

"Compartimos la preocupación de la ponente. Los últimos avances den la IA incluyen contenidos ultrafalsos ("deep fake") en materia de pornografía infantil" que "es un delito penal en los Estados miembros", señaló la Experta del Ejecutivo comunitario Yordanka Ivanova.

La eurofuncionaria explicó cómo la inminente legislación comunitaria sobre IA "prohíbe también una serie de prácticas nocivas y dañinas, sobre todo los actos que explotan la vulnerabilidad de los niños" y exige "que los proveedores eviten la difusión de material sexual infantil, incluyendo el material producido por IA".

Además, obligará a que los contenidos ultrafalsos se etiqueten como tales "para garantizar que el contenido generado por IA pueda detectarse de una manera fiable".

La Comisión Europea, por su parte, también seguirá escrutando el desarrollo de la inteligencia artificial y "analizando ejemplos concretos" relativos a riesgos relacionados sobre los "derechos fundamentales, la salud, el desarrollo de la IA y sus efectos secundarios".

Además de a través de la Ley de Inteligencia Artificial, a nivel comunitario el problema se puede abordar también a través de la Directiva contra la violencia contra las mujeres y del Reglamento para prevenir y combatir el abuso sexual a menores.

Durante el debate, la eurodiputada popular española Rosa Estaràs recordó que la nueva legislación europea establece un sistema basado en el riesgo con cuatro niveles de gravedad, según los cuales se fijan obligaciones de la tecnología.

La socialdemócrata española Cristina Maestre señaló que "el 96 % de las imágenes de IA son de pornografía no consentida y el 95 % de las víctimas son mujeres".

"Estamos en la buena dirección pero conviene que hagamos un seguimiento de la correcta aplicación de esta ley", dijo.

Por su parte, la europarlamentaria española de VOX Margarita De la Pisa Carrión señaló que el acceso de menores a contenidos de pornografía infantil se puede considera ya "un problema de salud pública" y agregó que "la tecnología supone un cambio de paradigma".

Populares, socialdemócratas, liberales y reformistas pidieron mantener abiertas las peticiones y la Comisión Europea trasladará ahora sus hallazgos por escrito a la comisión de Peticiones, que seguirá pendiente de estas cuestiones en la próxima legislatura.