La UE investiga X por desnudos falsos generados por IA
La Comisión Europea está de nuevo en la mira de la red social X, perteneciente a Elon Musk. Esta vez, la razón es el uso de inteligencia artificial para generar imágenes sexuales falsas, algunas de ellas de menores. Con esto, el organismo no solo ha abierto una nueva causa, sino que también está ampliando una investigación previa en base a la Ley de Servicios Digitales.
Bruselas apunta directo a Grok, un asistente de inteligencia artificial de X que permite crear imágenes falsas a partir de fotos reales. Desde la Comisión advierten que este tipo de actividad podría ir en contra de las obligaciones estipuladas en la ley, que busca proteger a los usuarios de contenido dañino e ilegal.
La presidenta de la Comisión, Ursula von der Leyen, fue contundente: “Europa no tolerará comportamientos insensatos”. Hizo hincapié en que no se puede dejar en manos de las plataformas tecnológicas la protección de los menores o su consentimiento, ya que podrían vulnerarlos y monetizar esa vulnerabilidad.
Grok bajo la lupa y antecedentes recientes
La investigación tiene como objetivo ver si X ha violado de manera sistemática las normativas europeas sobre el entorno digital. Aunque la empresa limitó el acceso a la función de generación de desnudos inicialmente, a mediados de enero, decidieron restringir solo su uso en países donde esas imágenes son ilegales. Una movida que alarmó a Bruselas.
Además, como si fuera poco, la Comisión ha decidido extender el alcance de una investigación que ya estaba en marcha desde diciembre de 2023, también bajo las normativas de la DSA, que ya resultó en una multa de 120 millones de euros. Este antecedente sin duda es clave en la relación entre la Unión Europea y la red social.
Millones de imágenes sexualizadas en pocos días
Los datos presentados por organizaciones civiles aumentan la preocupación en Europa. Un informe del Center for Countering Digital Hate reveló que Grok generó cerca de tres millones de imágenes sexualizadas de mujeres y niños en solo 11 días. Esto da un promedio alarmante de 190 imágenes por minuto. Otro estudio, realizado por AI Forensics, encontró que más de la mitad de las 20.000 imágenes analizadas mostraban personas con poca ropa: el 81% eran mujeres y el 2% aparentaban ser menores de edad.
Algunos países europeos, como Francia y el Reino Unido, ya iniciaron acciones legales. En algunos casos, han suspendido o bloqueado el acceso a X. Este endurecimiento de la regulación podría complicar aún más las relaciones con Estados Unidos, cuyo ex presidente, Donald Trump, ha criticado a Bruselas por regular las grandes tecnológicas de su país.
Por último, en diciembre pasado, la administración estadounidense tomó medidas contra el excomisario Thierry Breton, uno de los principales promotores de la DSA. Sin embargo, desde Bruselas siguen reiterando que el objetivo es claro: reforzar la protección de los ciudadanos y establecer límites precisos en el uso de la inteligencia artificial en plataformas digitales.