Diversos países han exigido a xAI, la empresa desarrolladora de Grok, que modifique el chatbot después de que se utilizará para generar una avalancha de fotos obscenas de mujeres y menores.
Varios países anunciaron este jueves que van a tomar medidas drásticas para evitar que Grok, el chatbot de inteligencia artificial de la plataforma X, propiedad de Elon Musk, permita crear contenido sexual a partir de fotos de internautas.
Filipinas es el tercer país en prohibir Grok, después de sus vecinos del sudeste asiático, Malasia e Indonesia, mientras que Gran Bretaña y Francia pidieron que se respetaran sus legislaciones.
X el miércoles anunció que «bloqueará geográficamente la opción» para crear imágenes de personas en «bikini, ropa interior y atuendos similares» en los países en los que esté prohibido.
El anuncio llega después de que la fiscalía de California iniciara una investigación sobre xAI, la empresa de IA de Musk, por «facilitar la producción a gran escala de montajes íntimos no consentidos [deepfakes], utilizados para coser a mujeres y niñas en internet, principalmente vía la red social X», indicó el fiscal general del estado, Rob Bonta, en un comunicado.
«Hemos implementado medidas tecnológicas para impedir que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis», dijo el equipo de seguridad de X en un comunicado.
El primer ministro británico Keir Starmer celebró el jueves que X «actúe para cumplir plenamente con la legislación británica».
También lee: El regulador británico abre una investigación sobre X por imágenes sexualizadas de IA
«Esto debe hacerse inmediatamente», señaló. «Si necesitamos reforzar aún más las leyes existentes, estamos dispuestos a hacerlo», añadió.
Mientras tanto, el jefe de delitos cibernéticos de Filipinas, Renato Paraiso, dijo que está previsto que el bloqueo de la aplicación entre en vigor este jueves.
Remarcó, además, que el anuncio de X de bloquear la función de edición de fotos no altera la decisión de bloquear el chatbot.
«Tenemos que limpiar internet ahora porque está apareciendo mucho contenido tóxico, especialmente con la llegada de la IA», afirmó el secretario de Telecomunicaciones de Filipinas, Henry Rhoel Aguda.
Modo picante
El llamado «modo picante» de Grok permite a los usuarios crear deepfakes utilizando sencillas indicaciones de texto como «ponle un bikini» o «quítale la ropa».
Un análisis realizado la semana pasada por la oenegé AI Forensics sobre más de 20.000 imágenes generadas por Grok reveló que más de la mitad mostraban a personas con poca ropa, de las cuales el 81% eran mujeres y el 2% parecían menores de edad.
La comisionada francesa para la infancia, Sarah El Hairy, anunció haber remitido las imágenes generadas por Grok a la fiscalía, al regulador de medios Arcom ya la Unión Europea, que pidió la paralización total de la generación de ese tipo de contenido.
El gobernador de California, Gavin Newsom, dijo el miércoles que la «vil» decisión de xAI de permitir la proliferación de deepfakes sexualmente explícitos lo llevó a instar al fiscal general del estado, Rob Bonta, a llevar el caso ante la justicia.
«Tenemos tolerancia cero para la creación y difusión con IA de imágenes íntimas no consentidas o material pedopornográfico», agregó el fiscal.
Bonta dijo que la investigación determinará si xAI violó la ley estatal, después de que las imágenes explícitas fueron «utilizadas para acosar a personas en internet».
Publicaciones borradas
Para aumentar aún más la presión sobre la empresa de Musk, el miércoles una coalición de 28 grupos de la sociedad civil envió cartas abiertas a los directores ejecutivos de Apple y Google instándoles a prohibir Grok y X en sus tiendas de aplicaciones.
La semana pasada, xAI intentó sofocar las críticas con el anuncio de que las opciones de generación y edición de imágenes en X estaban «limitadas a los suscriptores de pago».
Indonesia bloqueó el sábado el acceso a Grok y Malasia hizo lo mismo al día siguiente.
REDACCIÓN: AFP
