¿Estamos jugando con fuego? La propuesta que busca ponerle freno a la inteligencia artificial
En Tantita Tinta nos encanta la tecnología, pero seamos sinceros: la velocidad a la que avanza la inteligencia artificial empieza a poner nerviosos a propios y extraños. Anthropic, una de las empresas que lidera este terreno con su famoso asistente Claude, acaba de lanzar una propuesta que parece sacada de una película de ciencia ficción: la creación de un mecanismo colectivo para que gobiernos y empresas sepan exactamente cuándo es momento de apretar el botón de ‘pausa’.
La idea, planteada por Jack Clark y Marina Favaro, los cerebros detrás del Anthropic Institute, no es para tomarse a la ligera. Según explican, estamos llegando a un punto donde la IA no solo nos ayuda a hacer la chamba más rápido, sino que podría sustituir capacidades humanas a una escala masiva. El problema no es la herramienta en sí, sino el riesgo de que la tecnología empiece a evolucionar por su cuenta a una velocidad que nuestra gobernanza simplemente no puede seguir.
¿Por qué pausar si todos quieren ganar la carrera?
Aquí es donde entra el drama. Anthropic reconoce que, en un mundo donde el crecimiento económico y la competitividad entre naciones son la prioridad, convencer a todos de dejar de desarrollar IA es una tarea titánica. De hecho, la empresa ya había intentado establecer sus propios límites en 2023, pero tuvo que recular a principios de este año. ¿La razón? El entorno político cambió y la competencia se puso tan intensa que, si no sigues avanzando, te quedas fuera del mercado.
Para nosotros en Tantita Tinta, esto plantea una pregunta clave: ¿Cómo haces para que empresas que compiten por billones de pesos (en el mercado global, la inversión se cuenta por miles de millones de dólares) se pongan de acuerdo? La empresa propone una comparación que pone los pelos de punta: el control internacional de armas nucleares. Sí, algo así de serio.
Los riesgos de una inteligencia que se construye a sí misma
El punto más alarmante de esta discusión es la llamada ‘inteligencia recursiva’. Es decir, el momento en que una IA sea capaz de mejorarse a sí misma y construir versiones sucesoras. Si esto ocurre, los humanos podríamos pasar de ser los arquitectos a ser simples espectadores de una evolución que no comprendemos del todo. Los expertos advierten que esta colisión entre tecnología que aprende sola y nuestras estructuras sociales es un futuro imposible de predecir.
El gran reto: que nadie trabaje por debajo del agua
Si alguna vez se llega a un acuerdo para frenar, ¿cómo garantizar que un laboratorio ‘pirata’ no siga trabajando en secreto? Anthropic sugiere que se necesitarían auditorías cruzadas entre laboratorios, como si fueran inspectores internacionales. El miedo es real: aquel que continúe trabajando mientras los demás descansan podría heredar el liderazgo tecnológico mundial.
Mientras tanto, la carrera no se detiene. Anthropic sigue lanzando herramientas como Mythos, un modelo capaz de detectar fallos de ciberseguridad a una velocidad que asusta. El dilema está sobre la mesa: ¿seremos capaces de gobernarnos a nosotros mismos antes de que las máquinas decidan por nosotros?
Fuente: Bloomberg Tecnologia
