Las imágenes de abuso sexual infantil generadas por IA podrían inundar Internet. | Washington Hispanic

Informe: Advertencia sobre el aumento de imágenes de abuso sexual infantil generadas por IA

La Internet Watch Foundation, una agencia de vigilancia con sede en el Reino Unido, emitió un informe en el que advierte sobre la alarmante proliferación de imágenes de abuso sexual infantil en Internet. Según el informe, esta situación podría empeorar significativamente si no se toman medidas para controlar las herramientas de inteligencia artificial (IA) que generan fotografías ultrafalsas. La agencia insta a los gobiernos y proveedores de tecnología a actuar rápidamente para evitar que una avalancha de imágenes de abuso sexual infantil generadas por IA sobrepase a los investigadores encargados de hacer cumplir la ley y aumente el número de posibles víctimas.

El impacto en los Objetivos de Desarrollo Sostenible (ODS)

• ODS 5: Igualdad de género – La proliferación de imágenes de abuso sexual infantil va en contra del objetivo de promover la igualdad de género y proteger a los niños y niñas de la violencia y el abuso.
• ODS 16: Paz, justicia e instituciones sólidas – Es fundamental fortalecer las leyes y las instituciones para combatir los abusos generados por la IA y garantizar la seguridad y protección de los niños.
• ODS 17: Alianzas para lograr los objetivos – Los gobiernos y proveedores de tecnología deben trabajar juntos para abordar este problema y desarrollar soluciones efectivas.

En un caso único en Corea del Sur, un hombre fue condenado a dos años y medio de prisión por utilizar inteligencia artificial para crear imágenes virtuales de abuso infantil. Este ejemplo demuestra la necesidad urgente de tomar medidas para prevenir el uso indebido de la IA en la generación de contenido ilegal.

El informe también destaca que, en algunos casos, los propios niños utilizan estas herramientas entre sí. Por ejemplo, en una escuela en España, la policía está investigando el presunto uso de una aplicación telefónica por parte de adolescentes para manipular fotografías de sus compañeros de clase y hacer que parezcan desnudos.

El informe revela el lado oscuro de la carrera por construir sistemas de inteligencia artificial generativa que permitan a los usuarios describir con palabras lo que desean producir y hacer que el sistema lo genere. Si no se toman medidas, los investigadores podrían verse abrumados por la avalancha de imágenes falsas de abuso sexual infantil, lo que dificultaría el rescate de niños reales que están en peligro. Además, los perpetradores podrían utilizar estas imágenes para preparar y coaccionar a nuevas víctimas.

La Internet Watch Foundation ha recibido informes sobre imágenes abusivas generadas por IA desde principios de este año. Esto llevó a una investigación sobre los foros de la llamada web oscura, donde se descubrió que los abusadores compartían consejos y se maravillaban de lo fácil que era generar imágenes sexualmente explícitas de niños. Algunos incluso intentan comercializar este tipo de imágenes cada vez más realistas.

El informe destaca la necesidad de fortalecer las leyes para combatir los abusos generados por la IA. En particular, se dirige a la Unión Europea, donde se está debatiendo la implementación de medidas de vigilancia que permitan escanear automáticamente las aplicaciones de mensajería en busca de imágenes sospechosas de abuso sexual infantil, incluso si las autoridades no las conocen previamente.

Uno de los objetivos principales de la Internet Watch Foundation es evitar que las víctimas anteriores de abuso sexual sean revictimizadas mediante la redistribución de sus fotografías. El informe destaca que los proveedores de tecnología podrían hacer más para dificultar el mal uso de las herramientas de IA que han creado. Sin embargo, esto puede ser complicado debido a la naturaleza de algunas de estas herramientas.

El informe también menciona que algunos proveedores de tecnología han tenido éxito en bloquear el uso indebido de sus modelos de IA. Por ejemplo, el generador de imágenes DALL-E de OpenAI ha logrado controlar su uso y evitar su utilización en la generación de contenido dañino. Por otro lado, herramientas como Stable Diffusion, desarrollada por la startup Stability AI, han sido utilizadas preferentemente por los productores de imágenes de abuso sexual infantil.

En conclusión, es necesario tomar medidas urgentes para controlar el uso indebido de la inteligencia artificial en la generación de imágenes de abuso sexual infantil. Los gobiernos y proveedores de tecnología deben trabajar juntos para fortalecer las leyes, desarrollar soluciones efectivas y proteger a los niños y niñas de este tipo de abuso.

1. Objetivos de Desarrollo Sostenible (ODS) relacionados con los temas destacados en el artículo:

• Objetivo 5: Igualdad de género – El artículo menciona el abuso sexual infantil, que afecta principalmente a niños y niñas.
• Objetivo 16: Paz, justicia e instituciones sólidas – El artículo habla sobre la necesidad de fortalecer las leyes y las medidas de vigilancia para combatir el abuso generado por la inteligencia artificial.

2. Metas específicas de los ODS identificadas en el artículo:

• Meta 5.2: Eliminar todas las formas de violencia contra todas las mujeres y las niñas en los ámbitos público y privado, incluidas la trata y la explotación sexual y otros tipos de explotación.
• Meta 16.2: Poner fin al maltrato, la explotación, la trata y todas las formas de violencia y tortura contra los niños.

3. Indicadores de los ODS mencionados o implícitos en el artículo:

• Indicador 5.2.1: Proporción de mujeres y niñas víctimas de violencia física o sexual en los últimos 12 meses.
• Indicador 16.2.1: Proporción de jóvenes (entre 18 y 29 años) que experimentaron violencia física o sexual en los últimos 12 meses.

4. Tabla de ODS, metas e indicadores:

¡Atención! Este espléndido artículo nace de la fuente del conocimiento, moldeado por una maravillosa tecnología patentada de inteligencia artificial que profundizó en un vasto océano de datos, iluminando el camino hacia los Objetivos de Desarrollo Sostenible. Recuerda que todos los derechos están reservados por SDG Investors LLC, lo que nos permite defender el progreso juntos.

Fuente: washingtonhispanic.com

Únete a nosotros en un viaje transformador en https://sdgtalks.ai/welcome, para contribuir activamente a un futuro mejor.