Los directores ejecutivos de varias grandes empresas de inteligencia artificial instan a los miembros del Congreso de EE UU a aprobar nuevas leyes que dificulten a los malos actores el desarrollo de armas biológicas utilizando su tecnología.
Demis Hassabis, de Google DeepMind, Sam Altman, de OpenAI, Dario Amodei, de Anthropic, y Mustafa Suleyman, de Microsoft AI, son algunos de los firmantes de una carta pública en la que piden leyes que obliguen a las empresas que venden ADN y ARN sintéticos a examinar a los clientes y los pedidos para evitar el uso indebido de material genético.
El peligro de las armas biológicas desarrolladas con IA
Organizada por el no partidista Institute for Progress y la derechista Foundation for American Innovation, la carta reconoce que, dado el ritmo de desarrollo de la IA, "existe una posibilidad real de que se erosionen significativamente las barreras de conocimiento que históricamente han impedido a los malos actores obtener armas biológicas".
El científico Arthur Kornberg fue el primero en sintetizar con éxito ADN en la década de 1950. En la actualidad, el proceso está automatizado y decenas de empresas de todo el mundo utilizan sintetizadores comerciales para "imprimir" y vender secuencias genéticas personalizadas que se utilizan para la investigación científica, el desarrollo de fármacos y el diagnóstico. Muchos proveedores solo venden a investigadores calificados, empresas de biotecnología e instituciones educativas, pero no todos ellos investigan a los clientes o las secuencias genéticas que encargan.
En 2017, investigadores canadienses hicieron saltar las alarmas cuando utilizaron ADN pedido por correo por valor de 100,000 dólares para reconstituir el extinto virus de la viruela equina. Los críticos dijeron que la misma metodología podría usarse para construir la viruela humana, un virus estrechamente relacionado y mortal. Desde entonces, la síntesis genética no ha hecho más que abaratarse.
En combinación con los avances en IA, ahora es posible diseñar nuevas toxinas y patógenos peligrosos utilizando grandes modelos de lenguaje, pero probablemente seguiría siendo necesaria cierta formación en biología para fabricar un virus funcional desde cero. Aunque los atentados bioterroristas han sido poco frecuentes, tienen el potencial de causar víctimas masivas, pánico público y pérdidas económicas. Una de las principales preocupaciones es que un patógeno diseñado por IA pueda desencadenar, intencionadamente o no, una pandemia mundial.
"Las herramientas de IA permiten a un usuario identificar muy rápidamente dónde dirigirse para pedir secuencias que no serán sometidas a cribado", asegura David Relman, microbiólogo y experto en bioseguridad de la Universidad de Stanford, firmante de la carta. "Si se les pide adecuadamente, también pueden indicarle cómo cambiar la naturaleza de su pedido, de modo que incluso los que están haciendo el cribado puedan ser mucho menos capaces de detectar qué es lo que está intentando hacer".
Las empresas involucradas en la petición
Entre los firmantes figuran otros científicos, expertos en seguridad nacional y ejecutivos de las empresas de síntesis genética Twist Bioscience y Ansa Biotechnologies. Estas compañías son miembros del Consorcio Internacional de Síntesis Genética, que se formó en 2009 para implantar prácticas voluntarias de detección. Muchas empresas ya utilizan programas informáticos para examinar los pedidos en busca de "secuencias preocupantes" que puedan contribuir a la toxicidad de un organismo o a su capacidad para causar enfermedades.
"Si se dispone de tecnología capaz de sintetizar ADN, hay que asegurarse de que se utiliza de forma responsable, y parte de ello es asegurarse de que se sabe qué se está fabricando y para quién", afirma James Diggans, vicepresidente de política y bioseguridad de Twist Bioscience. La compañía lleva años apoyando la aplicación de normas formales.
Las directrices federales introducidas durante el gobierno de Biden exigían a los científicos y empresas que reciben financiación federal que encarguen secuencias genéticas sintéticas a proveedores que examinen las compras. Un proyecto de ley bipartidista presentado a principios de este año en el Senado exigiría a todos los proveedores de síntesis genética que operan en EE UU que examinen los pedidos y a los clientes en busca de agentes nocivos o patógenos peligrosos.
Pero las herramientas de detección no son perfectas
El año pasado, investigadores de Microsoft publicaron un estudio en el que demostraban que las herramientas de diseño de proteínas mediante IA eran capaces de generar secuencias genéticas potencialmente peligrosas que escapaban al software de cribado de las empresas. Los modelos sugerían nuevas secuencias de proteínas con estructuras similares a las que se sabe que son peligrosas.
Geoff Ralston, ex presidente de Y Combinator y socio de Safe AI Fund, cree que los laboratorios de IA con modelos biológicos deberían hacer su propia criba de usuarios.
