Inteligencia artificial y pornografía infantil: cómo se está usando la IA para crear contenidos sexuales de menores y qué dice la ley · Maldita.es – Periodismo para que no te la cuelen

Informe sobre la difusión de imágenes generadas con inteligencia artificial

Introducción

El 18 de septiembre de 2023, varias madres de un instituto de Almendralejo (Badajoz) denunciaron la difusión de desnudos de sus hijas menores de edad creadas a través de inteligencia artificial (IA). Este tipo de contenidos no sólo pueden vulnerar el derecho al honor o a la imagen personal, sino que en el caso de menores se puede tratar de un delito de pornografía infantil, independientemente de que no sean imágenes reales y hayan sido generadas con esta u otra tecnología. En caso de que seamos víctimas de este tipo de imágenes creadas sin nuestro consentimiento, podemos acudir a la Agencia Española de Protección de Datos para solicitar su retirada, recabar todas las pruebas posibles y denunciar ante la Policía.

La Fiscalía General del Estado considera a las imágenes creadas por ordenador como pornografía infantil “virtual”

A raíz de diferentes casos de difusión de pornografía infantil creada con inteligencia artificial, han surgido varias dudas sobre si la creación de material sexual no consentido a través de esta tecnología está penada por la ley. En el caso de que seamos víctimas de este tipo de imágenes (sean creadas con IA o cualquier otro procedimiento), en España nos amparan diferentes derechos. La legislación española no regula en específico el uso de una tecnología en concreto (sea inteligencia artificial o un programa de edición de imágenes como Photoshop), sino que la normativa se centra en el daño que se hace a la persona.

Si alguien utiliza nuestra imagen sin nuestro consentimiento para crear otro contenido (en este caso, mediante IA) se trataría de un atentado contra nuestro derecho a la imagen, ya que el artículo 7.5 de la Ley Orgánica 1/1982 considera como intromisión ilegítima la “captación, reproducción o publicación por fotografía, filme, o cualquier otro procedimiento, de la imagen de una persona en lugares o momentos de su vida privada o fuera de ellos”. Es decir, cualquier elemento que nos pueda identificar.

Además, si alguien utiliza nuestra imagen sin nuestro consentimiento para fines sexuales (como crear imágenes de desnudos o en escenarios de contenido pornográfico) se podría considerar como una intromisión ilegítima al derecho al honor, ya que atribuye hechos que lesionan la dignidad de otra persona. Además, si este material pornográfico se genera para causar un daño concreto (que se pueda asociar a una persona individual, con nombres y apellidos), también podría suponer un delito de injurias, como recoge el artículo 208 del Código Penal. En este artículo puedes encontrar más información sobre qué derechos nos amparan en el caso de contenidos de tipo sexual.

Si los autores del delito son menores de edad, sus responsabilidades penales son diferentes y también las medidas que se imponen

Hay casos de pornografía infantil que se han dado en un entorno escolar, donde es probable que los autores de estas imágenes también sean menores de edad. En este caso sus responsabilidades penales son diferentes y vienen recogidas en la Ley Orgánica 5/2000, de 12 de enero, reguladora de la responsabilidad penal de los menores. En caso de que el autor tenga entre 17 y 14 años, son los Jueces de Menores quiénes pueden imponer medidas como el internamiento, libertad vigilada o la prohibición de comunicarse con la víctima dependiendo de la gravedad del delito.

En caso de que tenga menos de 14 años, no se le puede exigir responsabilidad penal según esta ley, sino que serán incluidos en un plan de seguimiento elaborado por los servicios sociales que incluirá un módulo formativo en igualdad de género en caso de que se atente contra la libertad sexual de otra persona, de acuerdo con la Ley Orgánica 1/1996, de 15 de enero, de Protección Jurídica del Menor.

Ya hay casos en España en los que la inteligencia artificial se ha empleado para generar pornografía infantil

Aunque la Fiscalía del Estado ya advertía en 2015 de la dificultad de distinguir entre imágenes reales e imágenes generadas por ordenador, con los avances en inteligencia artificial de los últimos años han comenzado a surgir casos en los que se ha empleado esta tecnología para crear material sexual no consentido de menores. Varias madres del municipio de Almendralejo, en Badajoz, denunciaron el 18 de septiembre de 2023 la difusión de imágenes de desnudos de sus hijas, menores de edad, en redes sociales. Las víctimas denuncian que estas imágenes fueron creadas a través de herramientas de inteligencia artificial mediante una aplicación que ofrece “desnudar” a personas.

La Policía Nacional ha iniciado una investigación sobre lo sucedido, y once menores han declarado ante las autoridades a la hora de redacción de este artículo. Según el delegado de Gobierno en Extremadura, Francisco Mendoza, también se han identificado a alguno de los menores que podrían estar implicados en la difusión de estas imágenes y el caso ha sido puesto en manos de la Fiscalía de Menores. La Agencia Española de Protección de Datos también ha puesto en marcha, de oficio, actuaciones previas de investigación.

Si difunden imágenes íntimas (reales o no) podemos solicitar su retirada a la Agencia Española de Protección de Datos

En caso de que difundan imágenes nuestras con contenido sexual (sean reales o creadas con IA), el INCIBE da una serie de pasos que podemos seguir en caso de que seamos víctimas de estos contenidos:

1. Si eres menor, pon en

   Objetivos de Desarrollo Sostenible (ODS) relacionados con los temas destacados en el artículo:

   • ODS 5: Igualdad de género
   • ODS 16: Paz, justicia e instituciones sólidas

   Metas específicas de los ODS identificadas en el artículo:

   • ODS 5.2: Eliminar todas las formas de violencia contra todas las mujeres y las niñas en los ámbitos público y privado, incluidas la trata y la explotación sexual y otros tipos de explotación.
   • ODS 16.2: Poner fin al maltrato, la explotación, la trata y todas las formas de violencia y tortura contra los niños.

   Indicadores de los ODS mencionados o implícitos en el artículo:

   • Indicador 5.2.1: Proporción de mujeres y niñas víctimas de violencia física o sexual en los últimos 12 meses.
   • Indicador 16.2.1: Proporción de jóvenes (entre 18 y 29 años) que han experimentado violencia física, sexual o psicológica en los últimos 12 meses por parte de un compañero íntimo.

   Tabla de ODS, metas e indicadores:

   ODS	Metas	Indicadores
   ODS 5: Igualdad de género	5.2: Eliminar todas las formas de violencia contra todas las mujeres y las niñas en los ámbitos público y privado, incluidas la trata y la explotación sexual y otros tipos de explotación.	Indicador 5.2.1: Proporción de mujeres y niñas víctimas de violencia física o sexual en los últimos 12 meses.
   ODS 16: Paz, justicia e instituciones sólidas	16.2: Poner fin al maltrato, la explotación, la trata y todas las formas de violencia y tortura contra los niños.	Indicador 16.2.1: Proporción de jóvenes (entre 18 y 29 años) que han experimentado violencia física, sexual o psicológica en los últimos 12 meses por parte de un compañero íntimo.

   ¡Atención! Este espléndido artículo nace de la fuente del conocimiento, moldeado por una maravillosa tecnología patentada de inteligencia artificial que profundizó en un vasto océano de datos, iluminando el camino hacia los Objetivos de Desarrollo Sostenible. Recuerda que todos los derechos están reservados por SDG Investors LLC, lo que nos permite defender el progreso juntos.

   Fuente: maldita.es

    

   

   Únete a nosotros en un viaje transformador en https://sdgtalks.ai/welcome, para contribuir activamente a un futuro mejor.