Se están difundiendo imágenes de abuso sexual infantil generadas por IA. Las autoridades se apresuran a detenerlos – LA NOTA DEL DÍA MÉXICO

Informe sobre la difusión de imágenes de abuso sexual infantil

Introducción

Los organismos encargados de hacer cumplir la ley en todo Estados Unidos están tomando medidas enérgicas contra una preocupante difusión de imágenes de abuso sexual infantil creados a través de tecnología de inteligencia artificial, desde fotografías manipuladas de niños reales hasta representaciones gráficas de niños generadas por computadora. Los funcionarios del Departamento de Justicia dicen que están persiguiendo agresivamente a los delincuentes que explotan las herramientas de inteligencia artificial, mientras los estados están compitiendo para garantizar que las personas que generan “deepfakes” y otras imágenes dañinas de niños puedan ser procesadas según sus leyes.

Objetivos de Desarrollo Sostenible (ODS)

• ODS 16: Paz, justicia e instituciones sólidas
• ODS 5: Igualdad de género
• ODS 8: Trabajo decente y crecimiento económico

Desarrollo

El Departamento de Justicia dice que las leyes federales existentes se aplican claramente a dicho contenido, y recientemente presentó lo que se cree que es el primer caso federal que involucra imágenes puramente generadas por IA, lo que significa que los niños representados no son reales sino virtuales. En otro caso, las autoridades federales arrestaron en agosto a un soldado estadounidense estacionado en Alaska acusado de publicar fotografías inocentes de niños reales que conocía a través de un chatbot de inteligencia artificial para hacer que las imágenes fueran sexualmente explícitas.

Los procesamientos se producen mientras los defensores de los niños están trabajando urgentemente para frenar el uso indebido de la tecnología para evitar una avalancha de imágenes perturbadoras que los funcionarios temen puedan dificultar el rescate de víctimas reales. Los funcionarios encargados de hacer cumplir la ley temen que los investigadores pierdan tiempo y recursos tratando de identificar y localizar a niños explotados que en realidad no existen.

Mientras tanto, los legisladores están aprobando una serie de leyes para garantizar que los fiscales locales puedan presentar cargos conforme a las leyes estatales por “deepfakes” generados por IA y otras imágenes sexualmente explícitas de niños. Los gobernadores de más de una docena de estados han firmado leyes este año para tomar medidas enérgicas contra las imágenes de abuso sexual infantil creadas o alteradas digitalmente, según una revisión del Centro Nacional de Desaparecidos y Niños explotados.

Impacto en los niños

Las imágenes de abuso sexual infantil generadas por IA se pueden utilizar para preparar a los niños, dicen los funcionarios encargados de hacer cumplir la ley. E incluso si no sufren abuso físico, los niños pueden verse profundamente afectados cuando su imagen se transforma para parecer sexualmente explícita.

“Sentí que me habían quitado una parte de mí. Aunque no fui violada físicamente”, dijo Kaylin Hayman, de 17 años, quien protagonizó el programa de Disney Channel “Just Roll with It” y ayudó a impulsar el proyecto de ley de California después de convertirse en víctima de imágenes “deepfake”.

Acciones tomadas y desafíos

Las principales empresas de tecnología, incluidas Google, OpenAI y Stability AI, han acordado trabajar con la organización contra el abuso sexual infantil Thorn para combatir la propagación de imágenes de abuso sexual infantil. Sin embargo, los expertos señalan que se debería haber hecho más desde el principio para evitar el uso indebido antes de que la tecnología estuviera ampliamente disponible. Las medidas que las empresas están tomando ahora para dificultar el abuso de versiones futuras de herramientas de inteligencia artificial “harán poco para evitar” que los infractores ejecuten versiones anteriores de modelos en sus computadoras “sin ser detectados”.

Conclusiones

Los funcionarios del Departamento de Justicia dicen que ya cuentan con las herramientas previstas por la ley federal para perseguir a los infractores por ese tipo de imágenes. La Corte Suprema de Estados Unidos en 2002 anuló una prohibición federal sobre material virtual de abuso sexual infantil. Pero una ley federal firmada el año siguiente prohíbe la producción de representaciones visuales, incluidos dibujos, de niños involucrados en conductas sexualmente explícitas que se consideren “obscenas”. Esa ley, que según el Departamento de Justicia se ha utilizado en el pasado para acusar imágenes de dibujos animados de abuso sexual infantil, señala específicamente que no existe ningún requisito “de que el menor representado realmente exista”.

En conclusión, es necesario seguir fortaleciendo las leyes y regulaciones para combatir la difusión de imágenes de abuso sexual infantil generadas por inteligencia artificial. Además, se deben implementar medidas preventivas desde el desarrollo de la tecnología para evitar su uso indebido y proteger a los niños de posibles daños.

Objetivos de Desarrollo Sostenible (ODS) relacionados

• ODS 16: Paz, justicia e instituciones sólidas
• ODS 5: Igualdad de género
• ODS 10: Reducción de las desigualdades

Metas específicas de los ODS identificadas

• ODS 16.2: Poner fin al maltrato, la explotación, la trata y todas las formas de violencia y tortura contra los niños
• ODS 5.2: Eliminar todas las formas de violencia contra todas las mujeres y las niñas en los ámbitos público y privado
• ODS 10.2: Empoderar y promover la inclusión social, económica y política de todas las personas, independientemente de su edad, sexo, discapacidad, raza, etnia, origen, religión o situación económica u otra condición

Indicadores de los ODS relevantes

• Indicador 16.2.2: Proporción de niños de 1 a 17 años que han experimentado cualquier forma de castigo psicológico o físico severo (disciplina violenta) en los últimos meses
• Indicador 5.2.1: Proporción de mujeres y niñas de 15 a 49 años que han sufrido violencia física o sexual por parte de una pareja íntima en los últimos 12 meses
• Indicador 10.2.1: Proporción de personas que viven por debajo del umbral nacional de pobreza, por sexo y edad

Tabla de ODS, metas e indicadores

Fuente: lanotadeldia.mx