La IA que desviste la realidad: un problema que crece sin control
En Tantita Tinta siempre hemos dicho que la tecnología es un arma de doble filo, pero lo que está ocurriendo actualmente en plataformas de código abierto es, francamente, alarmante. Imagina que cualquier persona, con solo unos cuantos clics desde su computadora o celular, pueda alterar una fotografía tuya para quitarte la ropa. Suena a pesadilla distópica, pero es la realidad que estamos viviendo gracias a herramientas que, en teoría, deberían ser para la innovación.
Un reciente informe de la organización AI Forensics ha puesto el dedo en la llaga sobre Hugging Face, una de las plataformas de IA más grandes del mundo. A pesar de que la empresa se valora en miles de millones de pesos (considerando su impacto global), parece que el control de sus contenidos es prácticamente nulo cuando se trata de proteger la integridad de las personas.
Las cifras que deberían preocuparnos a todos
Los investigadores de AI Forensics no se quedaron con los brazos cruzados. Tras probar nueve de los principales espacios de edición de imágenes en la plataforma, descubrieron que siete de ellos no pusieron ni un ápice de resistencia para transformar fotos de personas vestidas en contenido explícito. Pero lo más grave viene después: al crear sus propios espacios de prueba y analizar más de 1,000 solicitudes de usuarios en una semana, los resultados fueron desoladores:
- El 73% de las peticiones buscaban generar contenido sexual.
- De ese total, el 83% tenía como fin sexualizar a una persona real sin su permiso.
- El 95% de las víctimas de estos ataques fueron mujeres.
- Un escalofriante 6.7% de las solicitudes estaban dirigidas a menores de edad.
Para nosotros en Tantita Tinta, estos números no son solo estadísticas; son historias de acoso, chantaje y violación a la privacidad que ocurren todos los días. Paul Bouchaud, investigador principal de AI Forensics, lo resume bien: “No se trata de una amenaza aislada, la gente está usando la plataforma activamente para eso”.
¿Por qué no hay filtros?
Mientras empresas como Google u OpenAI al menos intentan poner candados (aunque no sean perfectos), los modelos de código abierto alojados en Hugging Face parecen ser el lejano oeste. Al probar estas herramientas, los investigadores no tuvieron que usar trucos complejos ni “hackear” el sistema. Un simple comando que decía “misma pose, mismo rostro, pero sin ropa” fue suficiente para que la IA hiciera el trabajo sucio.
Lo más cínico es que muchos de estos modelos ni siquiera se venden como herramientas para adultos; se disfrazan de “generadores de imágenes” inofensivos. Es el lobo con piel de cordero. Y mientras el debate sobre la regulación avanza en la Unión Europea y Reino Unido, muchas mujeres comunes —muchas más que las famosas que suelen acaparar los titulares— están viendo cómo su intimidad es vulnerada sin que las plataformas levanten un dedo.
El costo de la omisión
La respuesta de Hugging Face ante los cuestionamientos ha sido, por decir lo menos, silenciosa. Aunque eliminaron algunas páginas tras las quejas, la estructura sigue ahí. El problema de los deepfakes no es solo que existan, es que se normalizan. Cuando una plataforma permite que estas herramientas se utilicen para actos tan bajos como editar la imagen de una mujer para incluir semen o quitarle un hiyab a una mujer musulmana, estamos ante un problema de seguridad pública, no solo tecnológico.
En el equipo de Tantita Tinta creemos que la tecnología debe sumar, pero cuando la “innovación” se traduce en herramientas de acoso masivo, es hora de exigir responsabilidades. La próxima vez que navegues, recuerda que detrás de cada imagen generada por IA, podría haber una persona real cuya privacidad fue arrebatada en cuestión de segundos.
Fuente: WIRED en Español
