¿La inteligencia artificial nos está metiendo en terreno peligroso?
En Tantita Tinta siempre nos hemos declarado fans de la innovación tecnológica, pero hay ocasiones en las que la realidad supera a la ciencia ficción. Recientemente, las cabezas detrás de los modelos de IA más avanzados del planeta —incluyendo a Sam Altman de OpenAI, Dario Amodei de Anthropic y representantes de Microsoft y Google DeepMind— se unieron para lanzar un mensaje claro al Congreso de los Estados Unidos: es hora de poner orden antes de que la tecnología se utilice para fines nefastos, como la creación de armas biológicas.
Parece de película, pero el riesgo es tangible. La carta enviada por estos líderes tecnológicos no es un juego; piden leyes estrictas para que las empresas que venden ADN y ARN sintético vigilen con lupa a quién le están vendiendo material genético. La idea es evitar que cualquier persona con malas intenciones y acceso a un teclado pueda diseñar patógenos letales.
El eslabón perdido: ¿Quién controla la síntesis genética?
Para entender el drama, hay que retroceder un poco. Desde los años 50, cuando el ADN se sintetizó por primera vez, el proceso ha evolucionado a pasos agigantados. Hoy, muchas empresas pueden “imprimir” secuencias genéticas personalizadas. ¿El problema? No todas aplican filtros rigurosos. En 2017, unos investigadores canadienses lograron sintetizar un virus extinto usando material encargado por correo con un valor aproximado de 1.7 millones de pesos (100,000 dólares de aquel entonces). Si eso fue posible hace unos años, ¿qué no podría lograr alguien ahora con una IA sofisticada?
La IA ha bajado las barreras de entrada. Aunque todavía se requiere cierto conocimiento técnico en biología, los modelos de lenguaje actuales pueden sugerir formas de evadir los controles actuales de las empresas de biotecnología. Como bien apunta David Relman, microbiólogo de Stanford: “Las herramientas de IA permiten identificar dónde pedir secuencias que no serán revisadas y cómo disfrazar los pedidos para que nadie note que estás tramando algo peligroso”.
¿Es posible una regulación efectiva?
La respuesta corta es: es necesario, pero complejo. Ya existen algunas directrices federales, y un proyecto de ley bipartidista busca que todos los proveedores de síntesis genética en EE. UU. estén obligados a realizar un cribado exhaustivo. Sin embargo, no todo es perfecto. Investigadores de Microsoft han demostrado que herramientas de diseño de proteínas basadas en IA pueden generar secuencias que burlan los sistemas de seguridad actuales.
Para nosotros en Tantita Tinta, la conclusión es clara: la tecnología es tan buena como la ética de quien la usa. La carta enviada por estos gigantes no solo busca leyes, sino que admite una realidad incómoda: los laboratorios de IA deben hacerse responsables de lo que sus modelos generan. Como sugiere Geoff Ralston, debería ser prácticamente imposible pedirle a una IA que ayude a crear algo diseñado para dañar a la humanidad.
¿Qué sigue para nosotros?
La ciberseguridad ya no solo se trata de computadoras y servidores; ahora es una cuestión de vida o muerte biológica. Mientras los gobiernos discuten estas leyes, las empresas están bajo una presión inmensa para implementar “puntos de control” adicionales. La pregunta no es si la tecnología puede hacerlo, sino qué tan rápido podemos construir los candados necesarios para que la ciencia siga salvando vidas en lugar de amenazarlas.
En el equipo de Tantita Tinta estaremos monitoreando esta historia. Al final del día, el progreso no debería tener un costo tan alto como una pandemia artificial.
Fuente: WIRED en Español
