La facilidad con la que se generan desnudos digitales en plataformas de código abierto es, francamente, preocupante.
En Tantita Tinta siempre hemos defendido el progreso tecnológico, pero a veces, la velocidad con la que avanza la inteligencia artificial nos obliga a hacer una pausa y reflexionar sobre la seguridad digital. Recientemente, un informe de la organización europea AI Forensics puso el dedo en la llaga: Hugging Face, una de las plataformas de IA de código abierto más importantes del mundo, tiene un serio problema con la creación de deepfakes no consentidos.
Aunque las leyes en Europa, Reino Unido y Estados Unidos intentan apretar las tuercas contra quienes lucran o crean este tipo de contenido, la realidad es que la tecnología corre más rápido que la burocracia. Y aquí es donde entra el drama: ¿cómo es posible que herramientas tan potentes no tengan filtros básicos?
Los números no mienten: un uso alarmante
Para entender el alcance del problema, los investigadores de AI Forensics crearon sus propios espacios de edición dentro de la plataforma para monitorear qué es lo que realmente busca la gente. Los resultados nos dejaron helados: el 73% de las solicitudes fueron de naturaleza sexual. De esa cifra, el 83% buscaba desnudar a alguien sin su permiso, siendo las mujeres el blanco principal (95% de los casos). Lo más aterrador es que un 6.7% de esos intentos iban dirigidos contra menores de edad.
“No estamos hablando de un caso aislado, es una tendencia activa”, explica Paul Bouchaud, investigador principal de AI Forensics. A diferencia de las herramientas que usan empresas como OpenAI o Google, donde los mecanismos de seguridad son (teóricamente) más estrictos, en Hugging Face basta con un mensaje muy sencillo: “La misma pose, el mismo rostro, pero sin ropa”. Y listo, el software hace el resto del trabajo sucio.
¿Por qué pasa esto en un sitio tan grande?
Hugging Face se defiende argumentando que tiene políticas claras contra el abuso infantil y el contenido sexual no consensuado. Sin embargo, cuando el equipo de investigación quiso profundizar, el silencio fue la respuesta. Para nosotros en Tantita Tinta, resulta inaceptable que se sigan normalizando estas herramientas bajo la bandera de la “libertad de código”.
Muchos de estos modelos no se venden como herramientas de desnudo, sino como “generadores de imagen” inofensivos. Pero, como bien señalan expertos, si los datos con los que se entrenó a la IA incluyen imágenes sexuales (que sobran en internet), el sistema aprenderá a replicarlas a menos que alguien ponga un candado real. Ya no se trata solo de celebridades; el impacto está cayendo sobre personas comunes, lo que facilita el acoso, el chantaje y la violencia digital en nuestra vida cotidiana.
El costo de la tecnología sin filtro
El problema es global. Se estima que el desarrollo y mantenimiento de este tipo de infraestructuras mueve miles de millones de pesos (considerando las inversiones millonarias en el sector). Mientras las empresas sigan priorizando la escalabilidad sobre la ética, el daño será colateral y, muchas veces, irreparable. La tecnología debería ser un aliado para el desarrollo, no una vía fácil para violentar la intimidad de nadie.
Si bien es cierto que al contactar a la plataforma algunas páginas fueron dadas de baja, el problema de raíz persiste. ¿Estamos listos para vivir en un mundo donde cualquier persona puede crear una imagen falsa tuya solo con una foto de tus redes sociales? Es una pregunta que, como sociedad digital, nos urge responder.
Fuente: WIRED en Español
