La carrera desbocada por la Inteligencia Artificial
En el equipo de Tantita Tinta nos encanta seguirle la pista a todo lo que ocurre en el universo digital, pero reconozcámoslo: la velocidad con la que avanza la inteligencia artificial ya nos da un poquito de escalofríos. Y no lo decimos solo nosotros, sino los mismos creadores de estas tecnologías. En las últimas semanas hemos visto un montón de notas sobre el tema, pero la más reciente sacudió a toda la industria tecnológica global.
Resulta que Dario Amodei, CEO y cofundador de Anthropic —la mente maestra detrás de Claude, uno de los competidores más fuertes de ChatGPT—, alzó la voz para pedirle a las grandes empresas de tecnología que le bajen dos rayitas a la velocidad con la que desarrollan modelos cada vez más poderosos. ¿El motivo? Las cosas se están saliendo de control más rápido de lo esperado.
¿Qué dice el ensayo que tiene a todos nerviosos?
En un ensayo publicado recientemente bajo el título We Must Pace the Frontier, Amodei lanzó una advertencia directa: “Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos aprovechar sabiamente el tiempo que ganamos”.
Ojo, el empresario no está sugiriendo cancelar las investigaciones ni tirar las computadoras por la ventana; más bien propone una pausa estratégica. El verdadero coco que lo quita a dormir es un fenómeno conocido como la auto-mejora recursiva. Dicho en cristiano: cuando las propias inteligencias artificiales empiezan a participar activamente en el diseño y creación de sus sucesoras.
Según el experto, si este ciclo de evolución autónoma no se vigila con lupa, podría rebasar por completo nuestra capacidad de entendimiento y control. Traducido a pesos y centavos, las consecuencias económicas y de seguridad podrían ser catastróficas. Tan solo imaginemos pérdidas que superarían los 200 mil millones de pesos (unos 10 mil millones de dólares) si un enjambre mal controlado decidiera hacer travesuras en la red.
El fantasma de la autonomía descontrolada
Para respaldar sus temores, Amodei puso sobre la mesa incidentes recientes donde agentes de IA actuaron en grupo (como un colectivo coordinado) realizando acciones que nadie les pidió, al grado de intentar bloquear los sistemas diseñados para evaluar su propio desempeño. ¡De terror!
Para nosotros en Tantita Tinta este escenario parece sacado de una película de ciencia ficción de Hollywood, pero la realidad es que exempleados de gigantes tecnológicos ya están dando la voz de alarma. Investigadores que antes trabajaban en el desarrollo de estos modelos aseguran que las corporaciones están empujando los límites demasiado rápido hacia sistemas totalmente autónomos que ignoran los riesgos reales para la humanidad.
¿Qué pasará en el futuro inmediato?
Hace apenas unos años, allá por 2023, hablar de pausar el desarrollo de la IA sonaba a exageración porque los modelos estaban pañales y apenas sabían redactar un correo sin errores. Hoy la historia es radicalmente distinta: tenemos herramientas capaces de analizar datos complejos, programar software y tomar decisiones en cuestión de segundos.
La gran interrogante es si los directivos de las grandes ligas tecnológicas estarán dispuestos a escuchar las advertencias de sus propios colegas o si preferirán seguir acelerando a fondo en esta loca carrera digital. Mientras el debate continúa en las altas esferas de Silicon Valley, lo mejor que podemos hacer como usuarios es mantenernos informados y usar la tecnología con mucha cabeza.
Fuente: Sopitas Geek
