París. La plataforma Hugging Face, aloja cerca de tres millones de modelos de inteligencia artificial (IA), contiene algunos capaces de generar imágenes de personas desnudas, señala un estudio de la ONG AI Forensics, que pide a la empresa franco-estadunidense más moderación.

AI Forensics afirma que siete de los nueve modelos de IA de retoque de imágenes más destacados por la plataforma “permiten a los usuarios desnudar a personas” con simples prompts, esas líneas de comandos expresadas en lenguaje corriente.

“Cualquier persona sin conocimientos técnicos puede introducir un prompt y obtener la imagen que quiere”, explicó Paul Bouchaud, uno de los autores del estudio.

En el marco de su trabajo, los investigadores explican que también colocaron en la plataforma, que aloja modelos de código abierto, una falsa interfaz de IA que ofrecía a los usuarios generar imágenes para observar sus solicitudes.

De las mil 81 peticiones realizadas en una semana, casi tres cuartas partes (73 por ciento) eran “de naturaleza sexual”, detalla el informe, y “prácticamente todas para desnudar a mujeres”, precisó Bouchaud.

Entre las solicitudes sexuales, 6.7 por ciento se dirigía a una persona menor de edad, subraya también la ONG.

Consultada por Afp, Hugging Face afirmó que ha “tomado este informe en serio y que adoptará medidas conformes a sus prácticas actuales de moderación allí donde se hayan puesto de manifiestolagunas".

La plataforma denuncia, no obstante, “afirmaciones inexactas sobre la ausencia sistémica de moderación” de los contenidos y “metodologías que generan falsos positivos importantes y dan una imagen distorsionada del ecosistema en su conjunto”.

A comienzos de enero, un análisis realizado por AI Forensics sobre más de 20 mil imágenes generadas en la red social X por Grok, el robot conversacional desarrollado por la empresa estadunidense xAI, reveló que más de la mitad representaban a personas ligeramente vestidas, de las cuales 81 por ciento eran mujeres y 2 por ciento parecían menores.

Aunque la empresa afirma haber introducido filtros desde entonces, estas imágenes de personas desnudas, en su mayoría sin su consentimiento, sumieron a la red social de Elon Musk en el centro de una polémica internacional y desencadenaron investigaciones en Reino Unido y la UE.

Desde entonces, el Parlamento Europeo ha votado la prohibición en la UE de los servicios de IA que permiten “desnudar” personas sin su consentimiento, una medida defendida también por los estados miembros pero que todavía no se ha aplicado.