Grupos de Pedófilos Están Usando IA Para Crear Pornografía Infantil – Decrypt

En Resumen

• Grupo de vigilancia advierte sobre aumento de pornografía infantil generada por IA que circula en línea en foros de la dark web.
• Explican que los delincuentes intercambian consejos para evitar detección utilizando modelos de IA locales en lugar de los almacenados en la nube.
• El grupo de vigilancia teme que las imágenes falsas generadas por IA compliquen el trabajo policial y la protección de menores al perder tiempo identificándolas.

Un grupo de vigilancia de Internet con sede en el Reino Unido está sonando las alarmas sobre un aumento en la cantidad de material de abuso sexual infantil (CSAM) generado por inteligencia artificial que circula en línea, según un informe de The Guardian.

La Fundación de Vigilancia de Internet (IWF) dijo que los grupos de pedófilos están discutiendo e intercambiando consejos sobre cómo crear imágenes ilegales de niños utilizando modelos de IA de código abierto que se pueden descargar y ejecutar localmente en computadoras personales en lugar de ejecutarse en la nube, donde los controles y herramientas de detección generalizados pueden intervenir.

Fundada en 1996, la Fundación de Vigilancia de Internet es una organización sin fines de lucro dedicada a monitorear Internet en busca de contenido de abuso sexual, específicamente dirigido a niños.

“Hay una comunidad técnica dentro de los delincuentes, especialmente en los foros de la web oscura o dark web, donde están discutiendo esta tecnología”, dijo el Director de Tecnología de IWF, Dan Sexton, a The Guardian. “Están compartiendo imágenes, están compartiendo modelos de IA. Están compartiendo guías y consejos”.

La proliferación de CSAM falsos complicaría las prácticas actuales de aplicación de la ley.

“Nuestra preocupación es que, si las imágenes de abuso sexual infantil generadas por IA se vuelven indistinguibles de las imágenes reales, existe el peligro de que los analistas de IWF puedan perder tiempo valioso intentando identificar y ayudar a las fuerzas del orden a proteger a niños que no existen”, dijo Sexton en un informe anterior de IWF.

Los ciberdelincuentes que utilizan plataformas de IA generativa para crear contenido falso o deepfakes de todo tipo son una preocupación creciente para las fuerzas del orden y los responsables políticos. Los deepfakes son videos, imágenes o audios generados por IA que fabrican personas, lugares y eventos.

Para algunos en Estados Unidos, el problema también está en primer plano. En julio, el gobernador de Louisiana, John Bel Edwards, firmó el proyecto de ley legislativa SB175 que condenaría a cualquier persona declarada culpable de crear, distribuir o poseer imágenes deepfake ilegales que representen a menores a una pena obligatoria de cinco a 20 años de prisión, una multa de hasta $10.000 o ambas.

Ante la preocupación de que los deepfakes generados por IA puedan llegar a las elecciones presidenciales de Estados Unidos en 2024, los legisladores están redactando proyectos de ley para detener esta práctica antes de que pueda despegar.

El martes, los senadores estadounidenses Amy Klobuchar (D-MN), Josh Hawley (R-MO), Chris Coons (D-DE) y Susan Collins (R-ME) presentaron el Acta de Protección de las Elecciones contra la Inteligencia Artificial Engañosa, con el objetivo de detener el uso de la tecnología de IA para crear material de campaña engañoso.

Durante una audiencia del Senado de Estados Unidos sobre IA, el presidente de Microsoft, Brad Smith, sugirió utilizar políticas de Conozca a su Cliente o Know Your Customer (KYC), similares a las utilizadas en el sector bancario para identificar a los delincuentes que utilizan plataformas de IA con fines nefastos.

“Hemos sido defensores de eso”, dijo Smith. “De modo que si hay abuso de los sistemas, la empresa que ofrece el servicio de IA sabe quién lo está haciendo y está en una mejor posición para evitar que suceda”.

La IWF aún no ha respondido a la solicitud de comentarios de Decrypt.

1. Objetivos de Desarrollo Sostenible (ODS) relacionados

• Objetivo 16: Paz, justicia e instituciones sólidas
• Objetivo 17: Alianzas para lograr los objetivos

El artículo aborda temas relacionados con la lucha contra el abuso sexual infantil y la protección de los derechos de los niños, lo que se relaciona con el Objetivo 16 de Paz, justicia e instituciones sólidas. Además, menciona la importancia de la colaboración y las alianzas para abordar este problema, lo que se relaciona con el Objetivo 17 de Alianzas para lograr los objetivos.

2. Metas específicas de los ODS identificadas

• Meta 16.2: Poner fin al maltrato, la explotación, la trata y todas las formas de violencia y tortura contra los niños.
• Meta 17.16: Mejorar la efectividad de las alianzas globales para el desarrollo sostenible.

El contenido del artículo se relaciona con la meta 16.2 de poner fin al maltrato y la explotación de los niños, ya que se centra en el aumento de la pornografía infantil generada por IA. Además, también se menciona la importancia de las alianzas y la colaboración para abordar este problema, lo que se relaciona con la meta 17.16.

3. Indicadores de los ODS relevantes

• Indicador 16.2.3: Proporción de jóvenes y adultos que han experimentado al menos una forma de violencia física o sexual en los últimos 12 meses.
• Indicador 17.16.1: Valor monetario total de los recursos financieros movilizados para fortalecer la cooperación para el desarrollo.

El artículo no menciona directamente los indicadores de los ODS, pero se puede inferir que el aumento de la pornografía infantil generada por IA podría tener un impacto en el indicador 16.2.3, ya que podría aumentar la proporción de jóvenes y adultos que han experimentado violencia sexual. Además, la necesidad de colaboración y alianzas mencionada en el artículo se relaciona con el indicador 17.16.1, que mide el valor monetario de los recursos movilizados para fortalecer la cooperación para el desarrollo.

4. Tabla de ODS, metas e indicadores

¡Atención! Este espléndido artículo nace de la fuente del conocimiento, moldeado por una maravillosa tecnología patentada de inteligencia artificial que profundizó en un vasto océano de datos, iluminando el camino hacia los Objetivos de Desarrollo Sostenible. Recuerda que todos los derechos están reservados por SDG Investors LLC, lo que nos permite defender el progreso juntos.

Fuente: decrypt.co

Únete a nosotros en un viaje transformador en https://sdgtalks.ai/welcome, para contribuir activamente a un futuro mejor.