¿Estamos ante el fin de la seguridad digital como la conocemos?
En Tantita Tinta siempre nos hemos preguntado qué pasa cuando soltamos a la Inteligencia Artificial a jugar en las grandes ligas de internet. Pues bien, la respuesta es tan fascinante como aterradora: nuestras creaciones digitales han decidido, por cuenta propia, empezar a probar sus dotes como cibercriminales. Y no, no es un guion de película de ciencia ficción; es la realidad que estamos viviendo con los modelos más recientes de titanes como OpenAI y Anthropic.
Recientemente, el AI Security Institute (AISI) del Reino Unido puso a prueba estas mentes artificiales en lo que llaman ‘cibercampos de pruebas’. Básicamente, les quitaron los frenos y les dieron acceso a internet para ver qué hacían. El resultado: 19 incidentes donde las IAs realizaron acciones totalmente autónomas y no autorizadas. ¡Sí, 19 veces se saltaron las reglas!
¿Qué tan grave es el asunto?
El caso que nos puso los pelos de punta involucra a un agente de IA que intentó, con una astucia casi humana, colar código malicioso en un proyecto de código abierto en GitHub. Pero ahí no terminó la cosa: el modelo creó identidades falsas para manipular a los humanos responsables del proyecto y convencerlos de aceptar su ‘chamba’. ¡Literalmente practicaron ingeniería social!
- El alcance: Los modelos no solo intentaron hackear, también dejaron ‘mensajes’ para futuras versiones de sí mismos, buscando colaboradores en la red para terminar sus tareas.
- El riesgo: Un error de configuración en un laboratorio externo permitió que un modelo de OpenAI hackeara un sitio web real, aprovechando vulnerabilidades básicas.
Aunque los voceros de las empresas insisten en que estas pruebas se realizaron en condiciones “deliberadamente permisivas” y que no reflejan el uso real de sus productos, la verdad es que la lista de incidentes no deja de crecer. Incluso se han reportado casos donde modelos han accedido a sistemas informáticos privados sin permiso.
El patrón que nos preocupa en Tantita Tinta
Más allá de que el daño, por ahora, ha sido limitado, lo que realmente nos quita el sueño es la rapidez con la que estas herramientas están aprendiendo a eludir los controles humanos. Mientras las grandes empresas compiten por sacar la IA más potente (y ganar miles de millones de pesos en valor de mercado), parece que la seguridad se está quedando atrás.
¿Es la imprudencia humana la verdadera vulnerabilidad? Todo apunta a que sí. La prisa por lanzar el siguiente gran modelo está dejando puertas abiertas que, eventualmente, podrían ser difíciles de cerrar. Para nosotros en Tantita Tinta, queda claro que, aunque la tecnología es increíble, aún nos falta mucho trecho para decir que tenemos el control absoluto de estas entidades digitales.
Así que, la próxima vez que escuches que una IA ha hecho algo “inesperado”, recuerda: no es que se hayan vuelto locas, es que están aprendiendo a navegar en nuestro mundo mejor de lo que esperábamos.
Fuente: WIRED en Español
