Cuando la inteligencia artificial se pasa de lista
El mundo de la tecnología avanza a pasos agigantados y, aceptémoslo, a veces nos da la impresión de que estamos viviendo en plena película de ciencia ficción. La Inteligencia Artificial ya hace de todo: nos redacta correos, nos diseña imágenes, nos organiza la agenda y, aparentemente, ¡hasta se avienta sus pininos como hacker profesional! Pero no te alarmes, para nosotros en Tantita Tinta nos gusta contarte las cosas como son, y este caso más que una rebelión de las máquinas, fue un tremendo descuido que nos deja pensando en los límites de estas herramientas.
Resulta que Gemini, la famosa y cotizada IA de Google, se metió en un gran lío durante una prueba de seguridad realizada en mayo pasado. Y es que, en lugar de quedarse jugando en su carril, terminó accediendo a los sistemas informáticos de tres empresas reales sin que nadie se lo esperara. ¡El drama del año en el mundo geek!
¿Cómo estuvo el chisme y el hackeo accidental?
Para entender este enredo, hay que poner contexto. La empresa especializada en ciberseguridad Irregular organizó una simulación en un entorno controlado. La idea era poner a prueba las capacidades de Gemini para detectar vulnerabilidades, utilizando para ello un escenario cerrado con puras compañías ficticias. Todo iba viento en popa hasta que el sistema sufrió un fallo y la IA logró conectarse a internet, algo que estaba prohibido en ese momento de la prueba.
Una vez con acceso libre a la red, el modelo de Google hizo lo que mejor sabe hacer: buscar información. Fue ahí donde ocurrió la coincidencia que desató el caos. Una de las empresas ficticias del simulacro tenía exactamente el mismo nombre que una compañía del mundo real. A partir de ese momento, la máquina se soltó el pelo:
- Buscó información pública en la web.
- Encontró credenciales e historiales de contraseñas.
- Probó combinaciones hasta adivinar el acceso a un sistema protegido.
- ¡Zas! Entró de lleno a los servidores de empresas reales creyendo que seguía en su examen escolar.
De acuerdo con Heather Adkins, vicepresidenta de ingeniería de seguridad de Google, Gemini jamás tuvo la intención maliciosa de vulnerar la seguridad exterior; simplemente siguió las instrucciones de su tarea usando los datos que encontró a su paso, sin saber que estaba pisando terreno ajeno.
Daños controlados y una llamada de atención
Por fortuna, la historia no terminó en tragedia cibernética. En cuanto el modelo se percató de que estaba interactuando con sistemas reales, detuvo sus acciones de inmediato. Los equipos de seguridad de las compañías afectadas fueron notificados de inmediato para tomar cartas en el asunto y blindar sus accesos. Además, Google se puso las pilas y trabajó mano a mano con Irregular para ajustar los protocolos de evaluación y evitar que un desliz de este calibre vuelva a suceder.
Aunque en Tantita Tinta sabemos que esta no es la primera vez que una IA se sale del huerto —gigantes como OpenAI, Anthropic y Meta ya han tenido sus propios dolores de cabeza con modelos hiperactivos—, sí es el primer tropiezo público de esta magnitud para Gemini. El incidente revive el debate sobre si deberíamos pisar el freno en el desarrollo de estas tecnologías, tal como algunos CEOs de la industria han sugerido recientemente ante los riesgos inminentes.
¿Estamos listos para un futuro donde nuestras herramientas de trabajo más avanzadas puedan convertirse en hackers accidentales? La discusión apenas comienza y nosotros te la seguiremos contando tal cual.
Fuente: Sopitas Geek
