El peligro de la inteligencia artificial sin filtros
En Tantita Tinta siempre estamos al pendiente de cómo la tecnología cambia nuestras vidas, pero a veces, esos cambios nos dejan un sabor de boca bastante amargo. Seguro has escuchado sobre el auge de los deepfakes y la facilidad con la que hoy cualquiera puede manipular una imagen. Pues bien, un reciente informe de AI Forensics ha puesto el dedo en la llaga: Hugging Face, una de las plataformas de IA de código abierto más importantes del mundo, tiene un problema grave de seguridad y moderación.
Aunque la empresa está valuada en miles de millones de dólares, investigadores encontraron que su infraestructura es prácticamente un coladero. Al probar nueve de los espacios de edición de imágenes más populares dentro del sitio, descubrieron que siete de ellos podían transformar una fotografía de una persona vestida en contenido sexual explícito con solo dar un clic. Y aquí no hablamos de magia negra, sino de comandos tan simples como: “la misma cara, pero sin ropa”.
El 73% de las solicitudes tienen tintes sexuales
Los datos son, francamente, alarmantes. Tras monitorear más de mil solicitudes de imágenes en una semana, el equipo de investigación encontró que el 73% buscaba un fin sexual. De ese grupo, el 83% tenía como objetivo desnudistas o sexualizar a una persona específica, y en el 95% de los casos, las víctimas eran mujeres. Lo que más nos preocupa en Tantita Tinta es que un 6.7% de estas peticiones estaban dirigidas a menores de edad. Es un tema que va mucho más allá de una simple travesura digital; estamos hablando de acoso, chantaje y una violación flagrante a la intimidad.
“No se trata de una amenaza aislada; la gente está usando Hugging Face activamente para esto”, advierte Paul Bouchaud, investigador principal de AI Forensics. Mientras el debate sobre la regulación avanza en la Unión Europea y el Reino Unido, muchas plataformas tecnológicas operan bajo un modelo donde la responsabilidad recae casi exclusivamente en el usuario, dejando la puerta abierta al abuso.
¿Quién es el responsable cuando la IA se pasa de la raya?
El argumento de Hugging Face ha sido históricamente el de ser una plataforma abierta. Sin embargo, al no implementar filtros básicos de seguridad, se vuelven cómplices involuntarios de una industria del abuso que no descansa. A diferencia de las herramientas de gigantes como Google u OpenAI, que sí cuentan con candados para evitar la creación de imágenes explícitas, los modelos alojados en Hugging Face funcionan, en muchos casos, sin cortapisas.
Las consecuencias son reales. Este tipo de tecnología se utiliza para humillar a mujeres comunes, no solo a celebridades, e incluso para acciones tan graves como quitar el hiyab a mujeres musulmanas o fabricar situaciones de abuso. Silvia Semenzin, otra de las investigadoras del proyecto, lo resume con claridad: “Existen muchas formas de acosar a las mujeres. El abuso es generalizado”.
¿Qué sigue para la seguridad digital?
La pregunta que nos queda en el equipo de Tantita Tinta es: ¿es suficiente con que la empresa elimine un par de modelos después de que la prensa los exhibe? La respuesta corta es no. La tecnología debe venir acompañada de ética, y mientras no existan mecanismos de filtrado a nivel de plataforma que bloqueen este tipo de peticiones, la integridad de cualquier persona con una cuenta en redes sociales está en riesgo.
La próxima vez que veas una imagen en internet, recuerda que la IA generativa ya no es solo una herramienta de creación artística; es un terreno donde la ética está perdiendo la batalla contra la falta de moderación. Estaremos muy atentos a cómo evoluciona este tema y qué medidas, si es que las hay, toman las grandes plataformas para proteger a sus usuarios de esta ciberdelincuencia que crece a pasos agigantados.
Fuente: WIRED en Español
