Los suscriptores de X Premium están utilizando la inteligencia artificial (IA) de la red social, Grok, para generar imágenes no consensuadas de mujeres en bikini o ropa interior, una inquietante “tendencia” que ha llevado a usuarias de todo el mundo a pedir una mayor restricción de la herramienta y la eliminación del contenido sexual generado por la IA sin consentimiento.
Usuarios han acudido a X para pedir a Elon Musk cambios en esta herramienta, debido a que Grok también ha modificado imágenes de menores de edad, lo cual constituye abuso sexual infantil y acoso sexual.
El periodista Sanket Upadhyay, por ejemplo, le preguntó a Elon Musk, dueño de la plataforma, si “dirige una aplicación para pervertidos que no muestra ningún respeto ni dignidad hacia las mujeres”.
“Eliminen todo el contenido generado donde las fotos de mujeres fueron modificadas para que aparecieran en bikini o vestidos cortos sin su consentimiento. Esto no es innovación de IA, es una violación de la privacidad”, escribió Nandani Sotro, otra usuaria de X.
¿Cómo eliminar una foto compartida sin consentimiento en X?
En el caso de México existe la Ley Olimpia, mediante la cual las mujeres o personas afectadas pueden denunciar casos de violencia digital.
La Ley Olimpia acepta la violencia digital como una manera de violencia contra las mujeres, la cual incluye acoso, hostigamiento, amenazas, insultos y vulneración de la información privada o de la imagen de una mujer. La Ley Olimpia sanciona a quienes hacen difusión de contenido sexual sin consentimiento, lo cual incluye desde textos, fotos, videos o datos personales a través de internet, redes sociales y otras apps.
Sin embargo, también existe una opción para eliminar el contenido sexual explícito de redes sociales.
El sitio Stop non-consensual intimate image abuse (StopNCII, que se traduce como ‘Detener el abuso de imágenes íntimas no consensuadas’) es una herramienta gratuita disponible en todo el mundo, la cual ayuda a las personas que han sido víctimas de la difusión de sus imágenes íntimas sin consentimiento.
Con esta herramienta, puedes generar un “hash”, o una huella digital única, para imágenes o videos íntimos. Este hash es compartido con empresas aliadas de StopNCII para que detecten y eliminen las imágenes para que no se compartan en línea.
“La herramienta funciona creando hashes (huellas digitales) de las imágenes o videos que selecciones directamente en tu dispositivo, sin necesidad de subirlas. La huella digital es el único archivo que se comparte con StopNCII.org y las empresas participantes. StopNCII.org no descarga las imágenes de tu dispositivo y recopilamos datos mínimos para ejecutar el servicio para ayudar a proteger su privacidad”, indica la herramienta.
Aunque esta herramienta está creada para personas mayores de 18 años, también brinda orientación para menores de edad.
Sin embargo, para el caso de menores de edad, se recomienda el uso de la herramienta Internet Watch Foundation (IWF), en la cual se puede reportar el contenido de abuso sexual infantil.
Otra plataforma que tiene el mismo objetivo es Take it Down, un servicio que ayuda a remover fotos o videos en línea que incluyan desnudos totales o parciales, o imágenes sexualizadas explícitas, para personas menores de edad.
Musk publica una imagen suya en bikini, generada con IA
En medio de la creciente tendencia de Grok a crear imágenes de personas en bikini o poca ropa, Musk ha participado en la polémica con una foto suya en bikini.
Musk le pidió a Grok que modificara una imagen de alguien en bikini generada por IA para que se pareciera a él, petición que la herramienta ejecutó sin problemas.
“Perfecto”, escribió Musk en sus redes tras ver el resultado de la IA. EFE
