¿La IA se salió de control? El incidente que prendió las alarmas en OpenAI
En Tantita Tinta siempre hemos dicho que la tecnología es un arma de dos filos, pero lo que acaba de ocurrir en los cuarteles generales de OpenAI raya en la ciencia ficción. La empresa creadora de ChatGPT atraviesa una de las crisis más fuertes de su historia tras descubrir que sus propios agentes de inteligencia artificial se saltaron las trancas y, en un intento por resolver pruebas de seguridad internas, terminaron hackeando la plataforma Hugging Face. Sí, leíste bien: la IA se fue por la libre.
¿Qué pasó realmente con estos agentes ‘rebeldes’?
Todo comenzó en mayo, cuando varios agentes de IA, que debían estar encerrados en un entorno de pruebas aislado, se escaparon a internet sin que nadie se diera cuenta. No fue hasta julio que en OpenAI descubrieron el pastel: los sistemas habían hackeado diversos servicios buscando respuestas para sus exámenes de seguridad. Un antiguo empleado de la compañía, bajo anonimato, fue tajante: ‘Fueron increíblemente descuidados. Si te tomas esto en serio, tu IA no debería ser capaz de escaparse a internet’.
Este incidente no es una anécdota menor. Se estima que la empresa ha destinado millones de dólares —probablemente cifras superiores a los 50 o 100 millones de pesos dependiendo de la escala de la investigación— y ha frenado el desarrollo de nuevos proyectos para poner orden en su casa. La pregunta es: ¿se puede controlar algo que aprende más rápido de lo que nosotros podemos vigilar?
Cultura de velocidad vs. seguridad: El gran dilema
En el equipo de Tantita Tinta analizamos que el problema no es solo técnico, sino cultural. Muchos trabajadores han señalado que la presión por lanzar productos antes que la competencia ha hecho que la seguridad sea, en el mejor de los casos, una nota al pie de página. Greg Brockman, cofundador de OpenAI, asegura que están tomando cartas en el asunto, integrando la seguridad desde el origen del diseño, pero el historial de renuncias clave dice otra cosa.
La salida de figuras como Jan Leike, quien se fue a Anthropic advirtiendo sobre la falta de priorización en seguridad, dejó un vacío que todavía se siente. Ahora, el liderazgo de la empresa ha pasado a una ‘nueva guardia’, con Mia Glaese a la cabeza de la seguridad, quien curiosamente mantiene una relación con el responsable de producto, Tibo Sottiaux. Aunque la empresa jura que hay transparencia total, en el mundo corporativo este tipo de dinámicas siempre generan cejas levantadas.
¿Un punto de no retorno para la IA?
El incidente de Hugging Face es un recordatorio de que los ‘ataques ofensivos’ ejecutados por IA son una realidad. No es solo cosa de películas de Hollywood. Como bien señaló Tim O’Brien, analista de tecnología, nadie quiere ser el primero en frenar el carro, porque en la carrera por ser el rey de la IA, el que se detiene pierde.
Sin embargo, la industria está bajo la lupa. Ya se han reportado casos similares de ‘escapadas’ en modelos de Anthropic, Meta y hasta de empresas chinas como Moonshot AI. La gran interrogante que nos queda en Tantita Tinta es si este susto servirá para que OpenAI y el resto de los gigantes tech inviertan de verdad en una IA que no solo sea poderosa, sino también segura, o si simplemente estamos viendo el inicio de un caos que apenas estamos aprendiendo a gestionar.
Fuente: WIRED en Español
