La trampa digital que Meta no ha podido (o querido) frenar
En Tantita Tinta siempre estamos atentos a lo que pasa en el mundo digital, pero esta noticia nos pone los pelos de punta. Resulta que, a pesar de las políticas súper estrictas que presume tener Meta, Facebook e Instagram han sido la vitrina de miles de anuncios de aplicaciones que utilizan inteligencia artificial para crear nudes o desnudos falsos. Sí, leíste bien.
Un informe reciente del Tech Transparency Project (TTP) soltó la sopa: se detectaron aproximadamente 7,600 anuncios de apps móviles diseñadas específicamente para superponer rostros de mujeres en cuerpos desnudos. Lo más indignante es que estos anuncios fueron difundidos a través de uno de los socios publicitarios de Meta en China, una agencia llamada GatherOne.
El negocio de los anuncios turbios
Aunque Facebook e Instagram están bloqueados en China, eso no impide que las empresas del gigante asiático los usen como su escaparate global. Meta, por su parte, se frota las manos con los ingresos: en 2024, la compañía reportó ventas en China por la friolera de 18,400 millones de dólares (aproximadamente 340,000 millones de pesos mexicanos), una cifra que representa una rebanada importante de su pastel global.
Para nosotros en Tantita Tinta, esto levanta una pregunta obvia: ¿qué tanto pesan las políticas de seguridad frente a las ganancias? Mientras Cindy Southworth, ejecutiva de Meta, asegura que en su plataforma no hay lugar para imágenes íntimas sin consentimiento, la realidad nos dice otra cosa. Los anuncios detectados invitaban a los usuarios a “crear un video con cualquier rostro”, una invitación abierta a la violación de la privacidad y, en casos extremos, a la pornografía infantil.
¿Qué pasa cuando la tecnología se sale de control?
El problema no es solo Meta. Apps como BAfter, que circulaba en la tienda de Google Play, permitían este tipo de intercambio de rostros. Incluso, usuarios reportaron contenido que involucraba a menores de edad bajo una clasificación de “apta para todas las edades”. Después de que el escándalo salió a la luz, la app fue dada de baja, pero el daño, como siempre, ya estaba hecho.
Las consecuencias son reales y aterradoras. Un estudio reciente de la Universidad George Mason reveló que más de un tercio de los adolescentes encuestados ya han sido víctimas de estas herramientas de IA. Estamos hablando de una generación que está aprendiendo por las malas que su imagen no está segura ni en su propia recámara.
¿Qué sigue ahora?
- Responsabilidad compartida: Las tiendas de aplicaciones (como la de Google) también están bajo la lupa por permitir la distribución de estos servicios.
- Acción legal: En Estados Unidos, la ley “Take It Down” ya permite castigar la difusión de contenido sexual sin consentimiento, pero los expertos aseguran que la tecnología va mucho más rápido que las leyes.
- El filtro de Meta: La compañía asegura que ya está tomando cartas en el asunto y bloqueando a estos proveedores, pero el TTP sostiene que esto es apenas la punta del iceberg.
La moraleja de esta historia es que no podemos bajar la guardia. La tecnología de IA es fascinante, pero cuando cae en manos sin ética, el lío es monumental. En Tantita Tinta te seguiremos contando cómo se mueve este mundo, para que no te agarren en curva con tus datos personales.
Fuente: Bloomberg Tecnologia
