Elon Musk niega que la IA Grok genere imágenes de menores desnudos

Nueva York.– El dueño de X, Elon Musk, negó este miércoles que la herramienta de inteligencia artificial (IA) de su red social, Grok, haya generado imágenes de menores desnudos, tras la aparición en la plataforma de imágenes de personas -sobre todo mujeres- en ropa interior y en bikini sin consentimiento.

«No tengo conocimiento de ninguna imagen de menores desnudos generada por Grok. Literalmente ninguna», escribió Musk en su red social.

El también director ejecutivo de Tesla y fundador de SpaceX dijo que Grok solo genera las imágenes que los usuarios le piden y que «se negará a producir cualquier contenido ilegal, ya que el principio de funcionamiento de Grok es obedecer las leyes de cualquier país o estado».

«Puede haber ocasiones en que un ataque informático a las indicaciones de Grok produzca resultados inesperados. Si eso sucede, solucionamos el error de inmediato», añade.

Medidas internacionales contra el uso indebido de la IA

Las declaraciones de Musk se producen en el marco de un mayor escrutinio tanto de la Unión Europea (UE) como del Reino Unido.

Bruselas describió la aparición de deepfakes sexualmente explícitos no consensuales en X como «ilegales», «atroces» y «repugnantes».

Este mes, los suscriptores de X Premium empezaron a utilizar Grok para generar imágenes no consensuadas de personas en ropa interior, una inquietante tendencia que llevó a usuarios de todo el mundo a pedir una mayor restricción de la herramienta y la eliminación del contenido generado.

En medio de la creciente tendencia de Grok a crear imágenes de personas en bikini o poca ropa, el pasado 2 de enero, Musk participó en la polémica publicando una foto suya en bikini.

Musk le pidió a Grok que modificara una imagen de alguien en bikini generada por IA para que se pareciera a él, petición que la herramienta ejecutó sin problemas.

«Perfecto», escribió Musk en sus redes tras ver el resultado de la IA.

No obstante, el pasado 3 de enero, Musk afirmó que «cualquiera que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal», en respuesta a una publicación sobre imágenes inapropiadas.

El equipo de seguridad de la compañía publicó un mensaje similar, advirtiendo que toma medidas contra la actividad ilegal, incluido el material de abuso sexual infantil.

California se une a las investigaciones

Además, el fiscal general de California, Rob Bonta, abrió este miércoles una investigación contra xAI por la proliferación de material sexualmente explícito no consensual.

«La avalancha de informes que detallan el material sexualmente explícito y no consensual que xAI ha producido y publicado en línea en las últimas semanas es impactante. Este material, que muestra a mujeres y niños desnudos y en situaciones sexualmente explícitas, se ha utilizado para acosar a personas en internet», informó la fiscalía en un comunicado.

La investigación sucede a los numerosos reportajes que se han publicado en las últimas semanas en los que usuarios de Grok «toman imágenes comunes de mujeres y niños disponible en internet y las utilizan para representarlas en situaciones sugerentes y sexualmente explícitas, desnudándolas, todo ello sin su conocimiento ni consentimiento», explicó Bonta.

Recomendamos leer: “Seré como Elon Musk”: Santiago Matías promete guiar a jóvenes y definir el rumbo político del 2028

Por su parte, el gobernador de California, el demócrata Gavin Newsom, secundó esta investigación sobre el gigante tecnológico y afirmó que la red social X «alberga un caldo de cultivo para que los depredadores difundan deepfakes de IA sexualmente explícitos y no consensuados».