© Guardian Design/Getty ImagesLa IWF afirma que se están incorporando imágenes de víctimas de abusos en la vida real a modelos de inteligencia artificial, que luego producen nuevas representaciones de las mismas.
La Fundación para la Vigilancia de Internet (IWF, por sus siglas en inglés) ha descubierto casi 3.000 imágenes de abusos creadas por IA que infringen la legislación británica.
La organización, con sede en Reino Unido, afirma que se están incorporando imágenes de víctimas de abusos en la vida real a modelos de IA, que luego producen nuevas representaciones de las mismas.
Añadió que la tecnología también se utilizaba para crear imágenes de famosos a los que se les había "desenvejecido" y luego se les representaba como niños en escenarios de abusos sexuales. Otros ejemplos de material de abuso sexual infantil incluyen el uso de herramientas de IA para "desnudar" imágenes de niños vestidos que se encuentran en Internet.
La IWF había advertido en verano que empezaban a aparecer pruebas de abusos cometidos con IA, pero afirmó que su último informe había mostrado una aceleración en el uso de esta tecnología. Susie Hargreaves, directora ejecutiva de la IWF, afirmó que "las peores pesadillas se han hecho realidad".
"A principios de este año, advertimos que las imágenes por IA pronto podrían llegar a ser indistinguibles de imágenes reales de niños que sufren abusos sexuales, y que podríamos empezar a ver proliferar estas imágenes en cantidades mucho mayores. Ya hemos superado ese punto", afirmó.
"Escalofriantemente, estamos viendo cómo los delincuentes entrenan deliberadamente su IA con imágenes de víctimas reales que ya han sufrido abusos. Niños que han sido violados en el pasado se incorporan ahora a nuevos escenarios porque alguien, en algún lugar, quiere verlo".
La IWF también ha encontrado pruebas de que se venden en Internet imágenes generadas por IA.
Sus últimas conclusiones se basan en una investigación de un mes de duración sobre un foro de abusos a menores en la dark web, una sección de Internet a la que sólo se puede acceder con un navegador especializado.
Se investigaron 11.108 imágenes del foro, de las cuales 2.978 infringían la legislación británica al representar abusos sexuales a menores.
El material de abuso sexual infantil generado por IA es ilegal en virtud de la Ley de Protección del Menor de 1978, que tipifica como delito la toma, distribución y posesión de una "fotografía o pseudofotografía indecente" de un menor. La IWF declaró que la gran mayoría del material ilegal que había encontrado infringía la Ley de Protección del Menor, y que más de una de cada cinco de esas imágenes estaba clasificada como de categoría A, el tipo de contenido más grave, que puede representar violaciones y torturas sexuales.
La Ley de Jueces de Instrucción de 2009 también tipifica como delito las imágenes prohibidas no fotográficas de un niño, como caricaturas o dibujos.
La IWF teme que una marea de material de abuso sexual infantil generado por IA distraiga a las fuerzas del orden de la detección de abusos reales y de la ayuda a las víctimas.
"Si no controlamos esta amenaza, este material amenaza con saturar Internet", afirmó Hargreaves.
Dan Sexton, director de tecnología de la IWF, afirma que la herramienta de generación de imágenes Stable Diffusion (un modelo de IA de acceso público que puede ajustarse para ayudar a producir material de abuso sexual infantil) es el único producto de IA que se debate en el foro.
"Hemos visto discusiones en torno a la creación de contenidos utilizando Stable Diffusion, que es un software disponible en abierto".
Stability AI, la empresa británica que está detrás de Stable Diffusion, ha declarado que "prohíbe cualquier uso indebido con fines ilegales o inmorales en todas nuestras plataformas, y nuestras políticas dejan claro que esto incluye el material de abuso sexual infantil".
El gobierno ha dicho que el material de abuso sexual infantil generado por IA estará cubierto por el proyecto de ley de seguridad en línea, que se convertirá en ley de forma inminente, y que se exigirá a las empresas de medios sociales que impidan que aparezca en sus plataformas.
Comentarios del Lector
a nuestro Boletín