El Gobierno de España solicitó a la Fiscalía General que investigue si las plataformas X, Meta y TikTok incurrieron en delitos relacionados con la creación y difusión de pornografía infantil mediante herramientas de inteligencia artificial integradas en sus servicios.
La iniciativa fue anunciada por el presidente Pedro Sánchez y posteriormente activada en el Consejo de Ministros mediante la invocación del artículo 8 del Estatuto Orgánico del Ministerio Fiscal.
El Ejecutivo pidió al Ministerio Público que analizara los hechos, determinara si procedía ejercer acciones penales y estableciera criterios que permitieran a las víctimas, o a sus tutores legales, defender sus derechos ante la Fiscalía.
La medida se justificó como una actuación en defensa del interés público, la seguridad y la dignidad de la infancia. De acuerdo con los datos oficiales difundidos por el Gobierno, en España una de cada cinco personas jóvenes afirmó haber sufrido la difusión de desnudos manipulados con inteligencia artificial cuando era menor de edad.
Además, las denuncias por delitos sexuales digitales contra menores aumentaron en los últimos años y la mayoría de víctimas fueron niñas y adolescentes.
En paralelo, se advirtió sobre la difusión de los llamados “deepfakes” sexuales, que se multiplicaron de forma acelerada en el entorno digital europeo.
Uno de los elementos que impulsó la decisión fue la actividad registrada en X a través de su herramienta de inteligencia artificial Grok, ya que de acuerdo con cifras presentadas por el Ejecutivo, en un período de once días se generaron tres millones de imágenes sexualizadas en esa plataforma, incluidas más de 23.000 que afectaban a menores.
El Gobierno sostuvo que no solo los usuarios individuales podrían tener responsabilidad penal por estos hechos, sino también las propias plataformas, debido al control que ejercían sobre los contenidos, el diseño de sus algoritmos y las herramientas de IA que priorizaban determinadas publicaciones.
El presidente Pedro Sánchez defendió que el Estado no podía permitir la “impunidad de los gigantes tecnológicos” y aseguró que las redes sociales se habían convertido en un entorno sin reglas claras, comparable a un salvaje Oeste digital, la iniciativa formó parte de un paquete más amplio de cinco medidas orientadas a reforzar la protección de los menores en internet.
Entre esas acciones se incluyó la propuesta de limitar el acceso a redes sociales a menores de 16 años, perseguir la manipulación algorítmica que utilizara datos sin consentimiento, crear una huella de odio y polarización, para medir la amplificación de contenidos dañinos y establecer posibles responsabilidades legales directas para altos ejecutivos de las compañías en caso de incumplimientos graves.
La decisión de España, se enmarcá en un contexto más amplio donde diferentes gobiernos de Europa han tomado decisiones para proteger los derechos de sus ciudadanos ante las grandes plataformas.
Incluso, la Comisión Europea había abierto investigaciones contra X por posibles incumplimientos de la legislación digital comunitaria, incluidas prácticas vinculadas a la generación de imágenes sexualizadas sin consentimiento.
Asimismo, Francia inició diligencias por la difusión de contenidos sexuales generados con IA y llegó a allanar oficinas de la plataforma en su territorio. Irlanda y Reino Unido también avanzaron en investigaciones relacionadas con la protección de datos y la creación de imágenes explícitas mediante sistemas de inteligencia artificial.
