La Unión Europea abrió una investigación a X por las imágenes sexualizadas de Grok

El chatbot Grok, de Elon Musk , será investigado por difundir contenidos ilegales, como imágenes sexualizadas manipuladas, en la Unión Europea, en contravención de las normas tecnológicas del bloque, según anunció el lunes la Comisión Europea, lo que expone a la empresa a una cuantiosa multa.

La decisión de la Comisión se enmarca en el Reglamento de Servicios Digitales, que obliga a las grandes tecnológicas a hacer más para combatir los contenidos ilegales y nocivos en internet, y se produjo después de que xAI Grok, de Musk, difundiera miles de imágenes sexualizadas de mujeres y menores que alarmaron a los reguladores mundiales.

La investigación estudiará si X ha cumplido con sus obligaciones según la legislación digital de la UE, entre ellas los requisitos relacionados con la reducción de riesgos, la gobernanza de contenido y la protección de los derechos fundamentales, dijo la eurodiputada irlandesa Regina Doherty.

La investigación corre el riesgo de contrariar al Gobierno del presidente estadounidense, Donald Trump, en un momento en que las medidas de la Unión Europea contra las grandes tecnológicas están provocando críticas e incluso la amenaza de aranceles por parte de EE.UU.

X no contestó de inmediato a una solicitud de comentarios enviada por correo electrónico el lunes.

"Este caso despierta dudas muy graves de si las plataformas están cumpliendo con sus obligaciones legales de evaluar los riesgos correctamente e impedir la difusión de contenido ilegal y dañino", dijo Doherty en un comentario enviado por correo electrónico.

La Comisión dijo previamente este mes que las imágenes generadas con IA de mujeres y niños con poca ropa que se estaban difundiendo en X eran ilícitas y espantosas, y se unió a la condena mundial.

xAI, la empresa de inteligencia artificial propiedad de Musk, dijo a mediados de enero que había implementado ajustes para evitar que la cuenta Grok "permitiera la edición de imágenes de personas reales con ropa reveladora, como bikinis".

xAI también dijo en ese momento que había bloqueado a los usuarios, en función de su ubicación, para que no generaran imágenes de personas con poca ropa en "jurisdicciones donde es ilegal".

No identificó esas jurisdicciones.

Doherty afirmó que las imágenes habían puesto de manifiesto mayores deficiencias en la regulación y la aplicación de las tecnologías emergentes de IA.

"La Unión Europea tiene normas claras para proteger a las personas en internet. Esas reglas deben implicar algo en la práctica, en especial cuando se despliegan tecnologías poderosas a escala. Ninguna empresa que opere en la UE está por encima de la ley", dijo Doherty.

El organismo regulador de los medios de comunicación británico, Ofcom, inició este mes su propia investigación independiente para determinar si X ha cumplido con sus obligaciones en virtud de la Ley de Seguridad en Internet de Reino Unido.