La realidad detrás de los clics: ¿Por qué la IA está siendo usada para acosar?
En Tantita Tinta siempre estamos al tanto de los avances tecnológicos, pero a veces, el progreso tiene una cara que nos hace encender todas las alarmas. Si bien la inteligencia artificial (IA) nos prometía facilitar la chamba y potenciar la creatividad, hoy nos enfrentamos a un problema que roza lo ético y lo delictivo: la creación masiva de deepfakes con contenido sexual no consensuado.
Un informe reciente de la organización europea AI Forensics ha puesto el dedo en la llaga sobre Hugging Face, una plataforma de IA de código abierto que, aunque es un pilar fundamental para desarrolladores, también se ha convertido, casi sin querer, en un refugio para herramientas que permiten desnudar a cualquier persona con un par de clics.
¿Qué está pasando realmente en la plataforma?
Los investigadores decidieron probar nueve de los espacios de edición de imágenes más populares dentro del sitio. ¿El resultado? Siete de ellos transformaron fotos de mujeres vestidas en imágenes pornográficas sin poner ni un gramo de resistencia. Lo peor no es solo la existencia de la herramienta, sino la facilidad con la que se usa: no necesitas ser un experto en programación ni usar prompts complejos; basta con pedirle a la IA: ‘la misma pose, el mismo rostro, pero sin ropa’.
Para dimensionar el lío, el equipo de investigación configuró espacios propios dentro de la plataforma para rastrear el comportamiento de los usuarios durante una semana. De más de mil solicitudes recibidas, el 73% fueron peticiones sexuales. De ese total, el 83% tenía como fin sexualizar a una persona específica y, en el 95% de los casos, la víctima era una mujer. Lo que es aún más aterrador es que un 6.7% de estas peticiones estaban dirigidas a menores de edad.
El anonimato no protege a nadie
Aunque solemos pensar que este tipo de acoso está reservado para celebridades o políticos, la realidad es mucho más gris. La mayoría de las víctimas son personas comunes. Como bien señala Silvia Semenzin, investigadora de AI Forensics, el abuso va mucho más allá de la desnudez digital: ‘Hay casos donde se busca quitarle el hiyab a mujeres musulmanas o someterlas a actos sexuales degradantes. El acoso es generalizado y afecta a cualquiera con una foto en redes sociales’.
¿Dónde queda la seguridad?
Hugging Face cuenta con políticas internas que prohíben el abuso sexual infantil y el material sin consentimiento. Sin embargo, cuando se les cuestionó, la respuesta brilló por su ausencia. Aunque algunas páginas fueron retiradas tras el revuelo, el problema de fondo persiste: no hay medidas de seguridad a nivel de plataforma. Los modelos se promocionan como editores de imágenes ‘inocentes’ cuando, en realidad, son el motor de un acoso sistemático que muchas veces termina en chantajes.
Para nosotros en Tantita Tinta, este caso deja claro que la tecnología de código abierto es una espada de doble filo. Mientras las autoridades de la Unión Europea y Reino Unido preparan leyes para prohibir estas aplicaciones, las plataformas siguen dejando la responsabilidad en manos de los desarrolladores, quienes, en su mayoría, no implementan los filtros necesarios.
La pregunta es: ¿hasta cuándo permitiremos que el desarrollo tecnológico pase por encima de nuestra privacidad y dignidad? Mientras tanto, la mejor defensa sigue siendo la cautela al compartir nuestras fotos en internet.
Fuente: WIRED en Español
