El Gobierno pide investigación sobre presunta generación de material ilícito por IA en X
La ministra de Juventud e Infancia, Sira Rego, ha solicitado formalmente a la Fiscalía General del Estado que inicie una investigación sobre la inteligencia artificial Grok, desarrollada por X (anteriormente conocida como Twitter), por su posible implicación en la difusión de material de violencia sexual contra menores.
Contexto y motivos de la solicitud
Según fuentes del Ministerio de Juventud e Infancia, diversos medios han reportado que esta IA podría haber generado contenido relacionado con violencia sexual contra personas menores de edad. Estas prácticas no son consideradas un mero uso tecnológico neutro, sino que posiblemente constituyen un delito grave recogido en el Artículo 189 del Código Penal sobre pornografía infantil, así como en el Artículo 173 sobre delito contra la integridad moral.
De esta forma, se estaría atentando contra la dignidad, intimidad y los derechos fundamentales de niños y adolescentes en el entorno digital, lo que supone una grave vulneración que el Gobierno quiere frenar.
Sentencia y reconocimiento de violencia digital
La ministra Rego ha hecho referencia a la sentencia número 86/2024 del Juzgado de Menores de Badajoz, donde se condenó a varias personas por el uso ilegal de inteligencia artificial para manipular imágenes de niñas y adolescentes. Esta resolución judicial reconoció dichas conductas como violencia digital y las encuadró dentro de los delitos de pornografía infantil y contra la integridad moral.
La importancia de la protección de la infancia en entornos digitales
La ministra ha enfatizado que estamos ante una clara vulneración de derechos fundamentales y ha instado a la Fiscalía a analizar urgentemente estos hechos que ponen en riesgo la seguridad y el desarrollo libre de la infancia en internet. El objetivo es impulsar actuaciones que garanticen la protección efectiva de menores en el espacio digital, frenando prácticas que atentan contra su dignidad.
Avances legislativos en protección digital
Actualmente, el Congreso de los Diputados tramita la Ley Orgánica para la Protección de las Personas Menores de Edad en los Entornos Digitales, impulsada por el Ministerio de Juventud e Infancia. Esta normativa tiene como meta situar la seguridad, dignidad y derechos de la infancia en el centro del ámbito digital.
Desde el Ministerio consideran que esta ley reforzará el marco legal para salvaguardar la integridad e intimidad personal, combatiendo nuevas formas de vulneración relacionadas con tecnologías emergentes, como la inteligencia artificial. Además, se establece de forma clara que el interés superior del menor debe prevalecer sobre cualquier modelo de negocio digital.
Repercusiones y futuro de la investigación
El escrito remitido a la Fiscalía supone un paso decisivo del Gobierno para activar mecanismos legales contra posibles delitos cometidos a través del uso inadecuado de inteligencia artificial. El foco principal es impedir la utilización de tecnologías que faciliten o promuevan contenido ilegal que afecte a menores.
Esta acción coincide con un contexto creciente donde la inteligencia artificial es cada vez más utilizada en diversas áreas, incluyendo actividades ilícitas. Por ejemplo, en una noticia relacionada, se habla de cómo algunas empresas de IA encuentran un nicho en contenidos sexuales y pornográficos, lo que obliga a un mayor control y regulación (La Inteligencia Artificial encuentra un filón en el sexo y la pornografía).
Conclusión
La petición del Ministerio de Juventud e Infancia para que la Fiscalía investigue a la IA Grok de X por presunta generación de material de violencia sexual infantil subraya la creciente preocupación por los riesgos asociados a las tecnologías digitales en la protección de menores. La combinación de medidas legales con herramientas tecnológicas es esencial para garantizar un entorno seguro y respetuoso para la infancia en el ámbito digital.
Imagen: www.abc.es
