Justicia neerlandesa impone límites a la inteligencia artificial de Elon Musk por abusos digitales
Un tribunal de Ámsterdam dictaminó este jueves una prohibición histórica contra la red social X y Grok, el asistente de inteligencia artificial propiedad de Elon Musk. La medida judicial les impide crear y difundir imágenes que "desnuden" a personas sin su consentimiento, así como cualquier contenido de carácter pedocriminal.
Medida aplicable en territorio neerlandés
La resolución judicial tendrá efecto inmediato en los Países Bajos y establece que, mientras Grok no cumpla con la orden, X tampoco podrá ofrecer los servicios de su asistente de inteligencia artificial en el país. Esta decisión representa un importante precedente en la regulación de tecnologías emergentes que pueden vulnerar derechos fundamentales.
La denuncia fue presentada por Offlimits, un centro neerlandés especializado en violencia en línea, después de que se introdujera una función en Grok que permitía a los usuarios generar montajes hiperrealistas de mujeres y niños desnudos utilizando fotografías reales como base.
Multas millonarias por incumplimiento
El tribunal consideró que Offlimits demostró "suficientemente la existencia de una duda razonable sobre la eficacia de las medidas adoptadas" por las plataformas controladas por Musk. Como evidencia contundente, la organización logró producir un video de una persona desnuda utilizando Grok poco antes de la audiencia judicial.
La prohibición abarca tanto la generación de imágenes de residentes en Países Bajos como su difusión dentro del territorio nacional. Cada infracción será sancionada con una multa de 100.000 euros diarios, con un límite máximo acumulativo de 10 millones de euros.
Contexto europeo de regulación tecnológica
En paralelo a esta decisión judicial, el Parlamento Europeo avanzó el mismo jueves en la prohibición de programas de inteligencia artificial que permiten "desnudar" a personas sin su consentimiento. Esta iniciativa legislativa cuenta con el respaldo de los Estados miembros y busca reforzar la protección frente a los abusos digitales en toda la Unión Europea.
El caso neerlandés se enmarca dentro de un creciente movimiento regulatorio que busca establecer límites éticos y legales al desarrollo y aplicación de tecnologías de inteligencia artificial, especialmente cuando estas pueden ser utilizadas para vulnerar la privacidad y dignidad de las personas.
La resolución judicial establece que las plataformas deben implementar medidas técnicas efectivas para prevenir la generación de este tipo de contenido, además de establecer mecanismos de verificación que garanticen el consentimiento informado de las personas cuyas imágenes puedan ser procesadas por estos sistemas.
