El lado oscuro de la publicidad en redes: cuando la IA se pasa de la raya
Si pensabas que tu feed estaba a salvo de las intenciones más retorcidas de la tecnología, piénsalo dos veces. En Tantita Tinta nos pusimos a analizar un reporte reciente que ha dejado a todo el mundo con la boca abierta: resulta que Facebook e Instagram, las joyas de la corona de Meta, han estado difundiendo miles de anuncios de aplicaciones que prometen algo bastante perturbador: crear desnudos falsos mediante inteligencia artificial.
¿El responsable? Según el Tech Transparency Project (TTP), un grupo que se encarga de vigilar a las grandes tecnológicas, la bronca viene de uno de los socios publicitarios clave de Meta en China: GatherOne Inc.
¿Cómo es posible que esto pase?
Parece de película de terror, pero es la realidad digital. En los últimos meses, esta agencia ha sido la cara detrás de unos 7,600 anuncios de aplicaciones móviles. ¿Qué hacían estas apps? Básicamente, superponían rostros de mujeres sobre cuerpos desnudos para crear videos de lo más cuestionables. Y el drama escala: detectaron una aplicación creada en China que, según varios usuarios, incluía hasta pornografía infantil. ¡Un horror total!
A pesar de que las políticas de Meta son clarísimas al prohibir contenido sexualmente sugerente o apps que “desnuden” a la gente, la realidad es que el filtro les falló gacho. Mientras Meta presume de ser muy estricta con la seguridad, el TTP señala que la compañía parece estar dando “carta blanca” a sus socios chinos con tal de no perder ingresos en un mercado que, aunque sus plataformas no están abiertas al público general, les genera miles de millones de pesos.
El negocio de los anuncios sospechosos
Para que te des una idea del tamaño del lío: se estima que Meta generó unos 360,000 millones de pesos (calculado a partir de los 18,400 millones de dólares reportados en 2024) solo en China. Es un pastel enorme que, al parecer, hace que los controles de calidad se vuelvan un poco más flexibles de lo que admiten ante el público.
- La postura de Meta: Aseguran que ya bajaron esos anuncios y que no permiten este tipo de aplicaciones.
- El otro lado de la moneda: Organizaciones de vigilancia insisten en que los esfuerzos de la empresa son insuficientes y que el problema de los deepfakes sexuales apenas está empezando a mostrar su cara más fea.
¿Qué sigue ahora?
La situación ha llegado a tal nivel que, en Estados Unidos, ya existe la ley Take It Down, que castiga la publicación de contenido sexual sin consentimiento. Sin embargo, el problema es técnico: los adolescentes, que son los más expuestos, ya saben cómo saltarse las trancas y acceder a estos servicios por fuera de las tiendas de aplicaciones oficiales.
En Tantita Tinta nos preguntamos: ¿es suficiente con que Meta borre la publicidad una vez que ya fue vista por miles de personas? La tecnología avanza más rápido que las leyes y, por ahora, parece que la responsabilidad sigue recayendo en usuarios que, muchas veces, no saben cómo proteger su imagen en este internet que no perdona.
Fuente: Bloomberg Tecnologia
