La plataforma X de Elon Musk anunció el miércoles medidas para impedir que su inteligencia artificial, Grok, transforme fotos de personas reales en imágenes de carácter sexual. Esto tras las críticas en todo el mundo por la generación de ese tipo de contenido a partir de imágenes de mujeres y menores.
El anuncio llega después de que la fiscalía de California iniciara una investigación sobre xAI, la empresa de IA de Musk, por «facilitar la producción a gran escala de ‘deepfakes’, utilizados para cosificar a mujeres y niñas en internet, principalmente en la red social X», indicó el fiscal general del estado, Rob Bonta, en un comunicado.
«Tenemos tolerancia cero para la creación y difusión con IA de imágenes íntimas no consentidas o material pornográfico», agregó el fiscal.
Bonta dijo que la investigación determinará si xAI violó la ley estatal, después de que las imágenes explícitas las «utilizaron para acosar a personas en internet».
El gobernador de California, Gavin Newsom, dijo el miércoles que la «vil» decisión de xAI de permitir la proliferación de deepfakes sexualmente explícitos lo llevó a instar al fiscal general a responsabilizar a la empresa.
Medidas dentro de X
X anunció que «bloqueará geográficamente la capacidad» de todos los usuarios de Grok y X de crear imágenes de personas en «bikini, ropa interior y atuendos similares» en aquellas jurisdicciones donde esas acciones se consideran ilegales.
«Hemos implementado medidas tecnológicas para impedir que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis», dijo el equipo de seguridad de X en un comunicado.
«Esta restricción se aplica a todos los usuarios, incluidos los suscriptores de pago», agregó.
El movimiento internacional de indignación se intensificó en las últimas semanas contra Grok y la posibilidad que ofrece de modificar imágenes, en particular las publicadas en la red social X.
Esta opción estaba permitiendo a los usuarios crear ‘deepfakes’ sexualizados de mujeres y menores de edad usando indicaciones como «ponla en bikini» o «quítale la ropa».
