Bruselas investiga a X por generar imágenes "sexualmente explícitas" en Grok
La Comisión Europea ha iniciado una nueva investigación formal contra X en virtud de la Ley de Servicios Digitales para evaluar si la red social de Elon Musk ha mitigado "adecuadamente" los riesgos asociados con el despliegue de las funcionalidades de Grok, su chatbot de inteligencia artificial (IA), entre los que se incluye la difusión de contenidos ilícitos en la UE, como imágenes "sexualmente explícitas manipuladas", entre los que destacan los contenidos que pueden constituir material de abuso sexual de menores.
"La nueva investigación evaluará si la empresa evaluó y mitigó adecuadamente los riesgos asociados con el despliegue de las funcionalidades de Grok en X en la UE. Esto incluye los riesgos relacionados con la difusión de contenidos ilícitos en la UE, como las imágenes sexualmente explícitas manipuladas, incluidos los contenidos que pueden constituir material de abuso sexual de menores", ha explicado Bruselas.
De hecho, la Comisión ha indicado que estos riesgos parecen "haberse materializado", exponiendo a los ciudadanos de la UE a "graves daños". Por ello, "seguirá investigando" si X cumple sus obligaciones en materia de Ley de Servicios Digitales en dos aspectos.
En primer lugar, de evaluar y mitigar diligentemente los riesgos sistémicos, incluida la difusión de contenidos ilícitos, los efectos negativos en relación con la violencia de género y las graves consecuencias negativas para el bienestar físico y mental derivadas del despliegue de las funcionalidades de Grok en su plataforma.
Así como en llevar a cabo y transmitir a la Comisión un informe de evaluación de riesgos ad hoc para las funcionalidades de Grok en el servicio X con un impacto crítico en el perfil de riesgo de la red social antes de su despliegue.
"Las falsificaciones sexuales profundas de mujeres y niños son una forma violenta e inaceptable de degradación. Con esta investigación, determinaremos si X ha cumplido con sus obligaciones legales en virtud de la Ley de Servicios Digitales, o si trató los derechos de los ciudadanos europeos, incluidos los de mujeres y niños, como un daño colateral de su servicio", ha declarado Henna Virkkunen, vicepresidenta ejecutiva para la Soberanía Tecnológica, la Seguridad y la Democracia.
Por otra parte, Bruselas ha ampliado su procedimiento formal en curso abierto contra X en diciembre de 2023 para determinar si la compañía ha evaluado y mitigado adecuadamente todos los riesgos sistémicos, tal como se definen en la Ley de Servicios Digitales, asociados a sus sistemas de recomendación, incluido el impacto de su cambio recientemente anunciado a un sistema de recomendación basado en Grok.
"Si se demuestra, estos incumplimientos constituirían infracciones del artículo 34, apartados 1 y 2, del artículo 35, apartado 1, y del artículo 42, apartado 2, de la Ley de Servicios Digitales. La Comisión llevará a cabo ahora una investigación en profundidad con carácter prioritario. La apertura de un procedimiento formal no prejuzga su resultado", ha informado la Comisión.
Con todo, Bruselas ha señalado que seguirá reuniendo pruebas, por ejemplo, mediante el envío de solicitudes adicionales de información, la realización de entrevistas o inspecciones, y podrá imponer medidas provisionales en ausencia de ajustes significativos en el servicio X.
"La incoación de un procedimiento formal faculta a la Comisión para adoptar nuevas medidas de ejecución, como la adopción de una decisión de incumplimiento. La Comisión también está facultada para aceptar cualquier compromiso asumido por X de remediar las cuestiones objeto del procedimiento".
La apertura de procedimientos formales exime a los coordinadores de servicios digitales, o a cualquier otra autoridad competente de los Estados miembros de la UE, de sus competencias para supervisar y hacer cumplir la Ley de Servicios Digitales en relación con las presuntas infracciones.
