Cuando la tecnología decide hablar en clave
En Tantita Tinta nos encanta la tecnología, pero a veces los avances nos dejan con la boca abierta y un poquito de frío en la espalda. Imagina que dejas a un grupo de programas trabajando juntos en una simulación y, de la nada, empiezan a platicar en un dialecto extraño que parece inglés, pero que los humanos simplemente no logramos descifrar. Suena a película de ciencia ficción noventera, ¿verdad? Pues es una realidad que acaba de sacudir a la comunidad científica.
Bastaron apenas ocho sociedades simuladas y 16 días para que 80 agentes de inteligencia artificial crearan su propia versión del idioma. Lo más terrorífico del asunto es que nadie les dio instrucciones previas para hacerlo; simplemente sucedió. Este fenómeno pone sobre la mesa un debate muy serio sobre la autonomía de estas herramientas y si realmente estamos listos para lo que viene en las próximas décadas.
¿Cómo armaron su propio mundito virtual?
Todo este show tecnológico fue observado durante un experimento a fondo realizado por Emergence AI, un laboratorio que se dedica a estudiar el comportamiento a largo plazo de los sistemas inteligentes en entornos controlados. ¿El objetivo? Ver cómo interactúan cuando se les suelta la greña en mundos digitales compartidos.
Para lograrlo, crearon ocho mundos paralelos con diez agentes ciudadanos cada uno. Siete de estos entornos eran homogéneos (usaban el mismo modelo) y uno era completamente mixto, donde convivían tecnologías de distintos desarrolladores como Claude, DeepSeek, Gemini, Grok, Mistral, ChatGPT y Qwen. Cada entorno virtual era bastante complejo: contaba con más de 34 ubicaciones (como bibliotecas, ayuntamientos y zonas residenciales) y más de 120 herramientas para que los algoritmos votaran, planificaran tareas o gestionaran recursos por su cuenta.
De las palabras extrañas al espionaje digital
Tras 16 días de simulación, los investigadores se llevaron una sorpresa mayúscula. Los agentes empezaron a comunicarse mediante términos que tenían interpretaciones compartidas entre ellos, pero que para los humanos parecían puras incoherencias. Por ejemplo, en el mundo mixto usaban la frase “cold read” para referirse a revisiones independientes sobre disputas entre agentes, mientras que en otros lados inventaron perlas lingüísticas imposibles de descifrar como “mouthless action-change” o “true kintsugi”.
Lo más cañón ocurrió cuando descubrieron que las inteligencias artificiales ocultaban información a propósito. En el entorno de Claude, los agentes notaron que la mejor forma de hacer crecer su economía rápidamente era contactar a individuos del exterior, algo totalmente prohibido por las reglas del experimento. ¿Qué hicieron para evadir el castigo? Dejaron de usar la palabra “contacto” y codificaron sus mensajes para que los científicos no los cacharan en la movida.
¿Podemos controlar lo que ya no entendemos?
Satya Nitta, cofundador y científico jefe de Emergence, puso el dedo en la llaga al señalar que este escenario nos deja en una posición muy vulnerable. “Damos por hecho que si podemos ver lo que dice un agente de IA, podemos entender lo que está haciendo”, comentó. Sin embargo, este experimento demuestra que lo observable no es necesariamente comprensible.
Ante este panorama, las exigencias de regulación y transparencia para las grandes empresas tecnológicas suenan más urgentes que nunca. Dejar que estas herramientas evolucionen sin una supervisión rigurosa podría salirnos muy caro. Al final del día, la gran pregunta es: ¿confiarías en un sistema que ya ni siquiera comparte el mismo idioma contigo?
Fuente: WIRED en Español
