La IA generativa y un problema que no podemos ignorar
En Tantita Tinta siempre hemos sido entusiastas de la tecnología, pero hay momentos donde el entusiasmo debe detenerse para observar la realidad. Recientemente, una investigación de AI Forensics puso el dedo en la llaga sobre una plataforma que muchos consideran la columna vertebral de la inteligencia artificial moderna: Hugging Face. Y es que, aunque suena a nombre amigable, la realidad detrás de algunos de sus modelos es bastante preocupante.
La lucha contra los deepfakes —esos videos o fotos alteradas con IA— es una carrera contra el tiempo. Mientras gobiernos en Europa y Estados Unidos ya buscan cómo ponerle un alto a las aplicaciones que generan desnudos sin consentimiento, las grandes plataformas tecnológicas parecen estar fallando en su chamba principal: mantener la seguridad de sus usuarios.
¿Qué está pasando realmente en la plataforma?
Los investigadores de AI Forensics hicieron una prueba que nos deja helados: analizaron nueve de los espacios de edición de imágenes más populares dentro de Hugging Face. ¿El resultado? Siete de ellos pudieron transformar la foto de una mujer vestida en una imagen pornográfica con una facilidad alarmante.
Pero la cosa no para ahí. Al crear sus propios espacios de edición para monitorear qué estaba pasando, se encontraron con datos crudos: el 73% de las solicitudes recibidas eran de naturaleza sexual. De esa cifra, el 83% buscaba vulnerar la privacidad de mujeres, y lo más aterrador: el 6.7% de esos intentos estaban dirigidos a menores de edad. Es un problema sistémico, no un error aislado.
No necesitas ser un experto (y ese es el problema)
Lo que más nos preocupa aquí en el equipo de Tantita Tinta es la barrera de entrada. A diferencia de otras herramientas que tienen filtros de seguridad, los modelos analizados no requerían trucos complejos. Bastaba un mensaje simple, como pedir que la IA quitara la ropa de la parte superior del cuerpo de una persona en la foto, para que el sistema ejecutara la acción sin rechistar.
Mientras que empresas como OpenAI o Google han implementado candados más estrictos, en Hugging Face, la responsabilidad parece quedar en el aire, delegada a los desarrolladores individuales, quienes muchas veces ignoran las normas de seguridad básicas.
Más allá de las celebridades: el acoso a la gente común
Es un error común pensar que solo los famosos están en riesgo. La investigación dejó claro que la gran mayoría de estas imágenes no son de figuras públicas, sino de personas comunes y corrientes. El abuso es amplio y creativo en el sentido más oscuro: desde añadir elementos humillantes hasta intentar quitar prendas religiosas, como el hiyab, en un claro intento de acoso y manipulación.
Hugging Face prohíbe explícitamente el material de abuso sexual infantil y el acoso, y aunque han eliminado algunas páginas después de ser cuestionados por la prensa, la pregunta sigue en el aire: ¿es suficiente con reaccionar después de que el daño ya ocurrió? Para nosotros, la tecnología debería ser una herramienta de creación y avance, no un arma para chantajear o violentar la intimidad de las personas.
La tecnología avanza a pasos agigantados, y es momento de que las plataformas asuman su responsabilidad. La privacidad digital ya no es un lujo, es una necesidad básica en nuestro mundo hiperconectado.
Fuente: WIRED en Español
