El regulador británico abre una investigación sobre X por imágenes sexualizadas de IA

El regulador de medios del Reino Unido, Ofcom, inició este lunes una investigación formal sobre X de Elon Musk por la función de creación de imágenes de su chatbot de inteligencia artificial Grok, que se ha utilizado para producir deepfakes sexualizados.

La investigación se produjo cuando el primer ministro Keir Starmer advirtió: «Si X no puede controlar a Grok, lo haremos nosotros, y lo haremos rápido, porque si te beneficias del daño y el abuso, pierdes el derecho a autorregularte».

Grok se enfrenta a una creciente reacción internacional por permitir a los usuarios crear y compartir imágenes sexualizadas de mujeres y niños utilizando simples indicaciones de texto.

Ofcom calificó los informes de «profundamente preocupantes».

En un comunicado, afirmó que las imágenes de personas desnudas «pueden constituir abuso de imágenes íntimas o pornografía, y las imágenes sexualizadas de niños… pueden constituir material de abuso sexual infantil».

La oficina de Starmer acogió con satisfacción la investigación y afirmó que Ofcom «tiene todo nuestro apoyo para tomar cualquier medida que considere oportuna».

Ofcom dijo que se había puesto en contacto con X el 5 de enero para pedirle que explicara las medidas que había tomado para proteger a los usuarios del Reino Unido.

Sin compartir detalles del intercambio, el regulador dijo que X respondió dentro del plazo dado.

La investigación formal determinará si X incumplió sus obligaciones legales.

Contactado por AFP, X se refirió a una declaración anterior, que decía: «Tomamos medidas contra el contenido ilegal en X… eliminándolo, suspendiendo permanentemente las cuentas y trabajando con los gobiernos locales y las fuerzas del orden según sea necesario».

– Reacción global –

Según la Ley de Seguridad en Línea de Gran Bretaña, que entró en vigor en julio, los sitios web, las redes sociales y las plataformas para compartir videos que albergan contenido potencialmente dañino deben implementar una verificación de edad estricta a través de herramientas como imágenes faciales o controles de tarjetas de crédito.

Mientras tanto, es ilegal que los sitios creen o compartan imágenes íntimas no consensuadas o material de abuso sexual infantil, incluidos deepfakes sexuales creados con IA.

Ofcom tiene el poder de imponer multas del 10 por ciento de los ingresos mundiales de una empresa infractora por el incumplimiento de estas normas.

Al dirigirse al Parlamento el lunes, la ministra de Tecnología, Liz Kendall, se comprometió a ir más allá y a crear un nuevo delito penal que «haría ilegal que las empresas suministren herramientas diseñadas para crear imágenes de Internet no consensuadas».

Añadió que «abordar la violencia contra las mujeres y las niñas es tan importante en línea como en el mundo real».

La empresa xAI de Musk, que dirige Grok, intentó desviar las críticas internacionales con una nueva política de monetización a fines de la semana pasada, publicando en la cuenta X de Grok que la herramienta ahora estaba «limitada a suscriptores pagos», junto con un enlace a una suscripción premium.

Starmer, hablando en una reunión de legisladores de su Partido Laborista, calificó las acciones de Grok y X de «absolutamente repugnantes y vergonzosas».

Musk ignoró las críticas del Reino Unido este fin de semana y publicó en X que «sólo quieren suprimir la libertad de expresión».

El sábado, Indonesia se convirtió en el primer país en negar todo acceso a la herramienta, seguido por Malasia el domingo.

La Comisión Europea, que actúa como organismo de control digital de la UE, ha ordenado a X que conserve todos los documentos y datos internos relacionados con Grok hasta finales de 2026 en respuesta al revuelo.

«No externalizaremos la protección y el consentimiento de los niños a Silicon Valley», afirmó el lunes la directora de la Comisión Europea, Ursula von der Leyen.

«Si ellos no actúan, lo haremos nosotros», añadió.

FOTOS Y REDACCIÓN: AFP