Entre el pánico de Silicon Valley y la realidad científica
Desde las oficinas de alta tecnología en Silicon Valley hasta los pasillos de poder en Washington D. C., la idea de un apocalipsis provocado por la inteligencia artificial se ha convertido en el tema favorito de sobremesa. Entre las teorías más recurrentes sobre cómo una máquina descontrolada podría acabar con la humanidad, la creación de armas biológicas encabeza la lista de los escenarios más aterradores.
Para nosotros en Tantita Tinta, nos dimos a la tarea de investigar qué tan reales son estos temores. A principios de este año, los peces gordos de la industria tecnológica exigieron nuevas leyes para regular la fabricación de ADN sintético. Por si fuera poco, investigadores de la Universidad de Stanford demostraron que la IA ya es capaz de diseñar nuevos genomas virales. La tensión subió de tono cuando una empresa de tecnología publicó un informe advirtiendo sobre intentos de usar su asistente virtual para «favorecer el desarrollo de armas biológicas», lo que desató una ola de llamadas al gobierno para ponerle un alto a la frontera tecnológica.
¿La amenaza es real o pura ciencia ficción?
A pesar de la histeria colectiva y las películas de terror, muchos científicos señalan que este riesgo ocupa un lugar bastante bajito en la lista de verdaderas amenazas globales. David Bellamy, investigador del Institute of Foundation Models en California, explica que la inteligencia artificial no representa un peligro fundamentalmente nuevo en este terreno.
El llamado «dilema del doble uso» lleva décadas debatiéndose en la comunidad científica. Antes de que existieran los grandes modelos de lenguaje, el internet, las revistas científicas de acceso libre y las herramientas de traducción ya facilitaban que cualquiera encontrara protocolos de laboratorio. «La IA es, en esencia, una herramienta que ayuda tanto a los actores buenos como a los malintencionados a examinar información más rápido, pero eso no es el cuello de botella», apunta Bellamy.
El verdadero dolor de cabeza: el ensamblaje
El verdadero obstáculo para fabricar un agente biológico no es escribir el código genético, sino todo el proceso de ensamblaje en la vida real. Quien quiera hacer daño necesita materias primas, equipo especializado y una buena dotación de conocimientos técnicos en su chamba diaria. Un atacante tendría que conseguir fragmentos genéticos, construir un genoma completo desde cero y verificar que el patógeno realmente infecte humanos y se transmita.
Aunque los asistentes robóticos de laboratorio automatizan algunas tareas, los humanos siguen siendo indispensables. Jason Kelly, director ejecutivo de la startup biotecnológica Ginkgo Bioworks, señala que poner a una inteligencia artificial a dirigir un laboratorio autónomo fracasó rotundamente, en parte porque los humanos involucrados simplemente se negaron a proporcionar las sustancias peligrosas al bot. «Tendrías que tener una cantidad masiva de robots por todas partes», explica.
¿Tiene sentido estratégico usar armas biológicas?
Dejando de lado las teorías de una superinteligencia, expertos como el biólogo François Belloux dudan que la guerra biológica sea atractiva desde el punto de vista práctico. Atacar a ciertos grupos específicos sin lastimar a otros es sumamente difícil, y la distribución masiva de patógenos es un lío logístico tremendo en comparación con métodos tradicionales.
«Si de verdad quieres hacer daño, hay formas muchísimo más sencillas de lograrlo», comenta Belloux. Además, la inmunóloga Derya Unutmaz recuerda que, si una IA llegara a desatar un virus, los científicos usarían otras herramientas tecnológicas para desarrollar una vacuna en tiempo récord.
Hora de poner manos a la obra
Para el equipo de Tantita Tinta, la conclusión es clara: aunque el riesgo directo de que una computadora cree un virus por capricho propio es bajo, la tecnología sí pone sobre la mesa la urgencia de mejorar la seguridad. Expertos sugieren implementar leyes estrictas para que las empresas de síntesis de ADN verifiquen la identidad de sus clientes, además de mejorar la purificación del aire en edificios públicos.
Al final, como bien apunta Unutmaz, el verdadero peligro de este debate apocalíptico es que nos distraiga de cómo la inteligencia artificial puede ayudarnos a curar enfermedades, crear mejores vacunas y mejorar nuestra calidad de vida.
Fuente: WIRED en Español
