¿Fin del mundo o estrategia de marketing? La dura advertencia de Timnit Gebru
En Tantita Tinta nos encanta sumergirnos en los debates más intensos de la red. Esta semana, el mundillo tecnológico ha estado ardiendo con un par de escándalos dignos de una buena telenovela: por un lado, una polémica sobre un problema matemático valuado en un millón de dólares (unos 20 millones de pesos al cambio actual) y la sospecha de que OpenAI se robó las ideas de otros investigadores; por el otro, la renuncia escandalosa de un ingeniero de Anthropic que asegura que las empresas están jugando a la ruleta rusa con la seguridad digital. Mientras unos afirman con los pelos de la burra en la mano que la inteligencia artificial tiene más de un 10% de probabilidades de extinguir a la humanidad en la próxima década, las redes sociales se han convertido en un circo romano.
Pero ¿qué hay detrás de tanto drama catastrofista? Para Timnit Gebru, una de las mentes más lúcidas y críticas de la industria —conocida por su salida estrepitosa de Google tras cuestionar los sesgos de sus modelos—, todo este discurso sobre el “dios-máquina” y la extinción humana no es más que una gigantesca cortina de humo.
¿Por qué las tecnológicas están obsesionadas con las matemáticas?
Para nadie es un secreto que las grandes empresas buscan acaparar titulares con supuestos hitos históricos. Al respecto, Gebru señala con claridad meridiana la razón por la cual eligen disciplinas como el ajedrez o las matemáticas complejas para presumir sus avances:
- Buscan mandar un mensaje tajante: “Hemos llegado a la meta y descifrado la inteligencia”.
- Utilizan comunicados de prensa para impresionar a políticos y medios, saltándose la revisión rigurosa de la comunidad científica tradicional.
- Aceleran leyes y regulaciones basadas en el miedo antes de que los expertos puedan evaluar los alcances reales de la tecnología.
En lugar de colaborar sanamente como se hacía antes —cuando los investigadores de Google compartían chamba con colegas de Microsoft y Amazon—, hoy reina una competencia feroz impulsada por las próximas salidas a la bolsa de estas corporaciones. ¡Pura grilla tecnológica!
El cuento del puente que decidió derrumbarse
Uno de los puntos más interesantes que Gebru aborda en su próximo libro, Deep Unlearning, es la ridiculez de tratar a la inteligencia artificial como si tuviera conciencia propia. La investigadora utiliza una analogía perfecta para aterrizar este lío:
“Cuando un puente se derrumba, no analizas si el puente era un ser ético o consciente, ni por qué decidió venirse abajo. Lo que haces es preguntarte: ¿quién construyó este puente tan endeble? Existen permisos, pruebas y normativas. Cuando preguntas si la IA decidió descontrolarse por sí sola, has perdido completamente el hilo”.
Para la experta, esta narrativa apocalíptica de que las máquinas se volverán malvadas por voluntad propia sirve principalmente para desviar la atención de los daños reales y tangibles que la industria ya está causando.
Las verdaderas amenazas que sí dan miedo
Mientras los directores de las grandes tecnológicas juegan a los profetas del fin del mundo en sus cómodas oficinas, allá afuera el mundo real enfrenta broncas monumentales que las corporaciones prefieren ignorar. Entre las consecuencias más urgentes que sí deberíamos estar discutiendo se encuentran:
- Armas autónomas: Máquinas de matar reales que ya se están utilizando en conflictos bélicos alrededor del globo.
- Crisis climática: El brutal impacto ambiental y el consumo energético desmedido que requiere entrenar estos modelos.
- Despidos masivos: Los jefes están usando la excusa de la IA para deshacerse de empleados y recortar costos bajo el agua.
- Amenazas biológicas: Casos donde la tecnología es tanteada para fabricar armas químicas o biológicas reales.
En palabras llanas, cuando eres tan privilegiado que no te preocupan la brutalidad, las inundaciones, la guerra o el hambre, te puedes dar el lujo de obsesionarte con escenarios de ciencia ficción. Mientras tanto, en Tantita Tinta seguiremos rascándole a la superficie para traerte la neta detrás del algoritmo.
Fuente: WIRED en Español
