Los estados miembros y el Parlamento Europeo alcanzaron un acuerdo el jueves para prohibir en la Unión Europea las herramientas de inteligencia artificial que pueden "desnudar" a personas sin su consentimiento. La iniciativa surgió luego de la introducción meses atrás de una función en Grok, el asistente de inteligencia artificial de Elon Musk, que permite a los usuarios solicitar la creación de imágenes hiperrealistas (o deepfakes) de adultos y niños desnudos a partir de fotos reales, sin su consentimiento.
Escándalo por función de Grok
La función creó un escándalo en varios países y llevó a la apertura de una investigación en la UE. La primera ministra italiana, Giorgia Meloni, denunció la difusión de fotos falsas con su imagen generadas por IA y lo calificó como una "herramienta peligrosa".
Detalles de la prohibición
Según el Parlamento Europeo, la nueva prohibición se dirige a los sistemas que permiten crear imágenes, videos y sonidos de carácter pedopornográfico, o que representan las partes íntimas de una persona identificable, o la muestren participando en actividades sexuales, sin su consentimiento. La nueva reglamentación se aplicará a partir del 2 de diciembre de 2026. Para esa fecha, los servicios de IA deberán contar con medidas de seguridad que les impidan generar este tipo de contenidos.
Revisión de la legislación europea sobre IA
La medida fue adoptada como parte de una revisión de la legislación europea sobre la IA, una ley pionera aprobada formalmente hace dos años. Los 27 países miembros y los eurodiputados también acordaron aplazar la entrada en vigor de las nuevas normas destinadas a regular la actividad de los denominados sistemas de inteligencia artificial de alto riesgo, los cuales operan en ámbitos sensibles como la seguridad, la salud o los derechos fundamentales.
La iniciativa surgió luego de la introducción de una función en Grok que generó controversia internacional. La primera ministra italiana, Giorgia Meloni, denunció la difusión de fotos falsas generadas por IA, calificándola de herramienta peligrosa. La nueva prohibición se aplicará desde diciembre de 2026, exigiendo a los servicios de IA implementar medidas de seguridad para evitar la creación de contenido sexual no consentido.
