OpenAI y Anthropic firman una carta para evitar que se desarrollen armas biológicas con IA

Firma de carta para evitar armas biológicas con IA Los directores ejecutivos de OpenAI, Anthropic, Google DeepMind y Microsoft AI, entre otros, han firmado una carta pública instando al Congreso de EE UU a aprobar leyes que dificulten el desarrollo de armas biológicas utilizando inteligencia artificial.

La carta, organizada por el Institute for Progress y la Foundation for American Innovation, solicita que las empresas que venden ADN y ARN sintéticos examinen a los clientes y pedidos para evitar el uso indebido de material genético.

El riesgo de las armas biológicas con IA

El desarrollo de la IA ha aumentado la preocupación por la posible creación de armas biológicas. Los expertos advierten que la combinación de IA y síntesis genética podría permitir a los malos actores diseñar patógenos peligrosos.

En 2017, investigadores canadienses reconstituyeron el virus de la viruela equina utilizando ADN sintetizado. Este incidente destacó el riesgo de que la síntesis genética se utilice para crear armas biológicas.

La IA facilita el diseño de patógenos «Las herramientas de IA permiten identificar rápidamente dónde dirigirse para pedir secuencias que no serán sometidas a cribado», asegura David Relman, microbiólogo y experto en bioseguridad de la Universidad de Stanford.

Los firmantes de la carta, incluidos Demis Hassabis, Sam Altman, Dario Amodei y Mustafa Suleyman, piden leyes para evitar el uso indebido de la IA en la creación de armas biológicas.

Empresas involucradas en la petición

La carta ha sido firmada por empresas de síntesis genética como Twist Bioscience y Ansa Biotechnologies, que ya utilizan programas informáticos para examinar pedidos en busca de «secuencias preocupantes».

Normas para la síntesis genética «Si se dispone de tecnología capaz de sintetizar ADN, hay que asegurarse de que se utiliza de forma responsable», afirma James Diggans, vicepresidente de política y bioseguridad de Twist Bioscience.

Limitaciones en la detección

Un estudio de Microsoft demostró que las herramientas de diseño de proteínas mediante IA pueden generar secuencias genéticas peligrosas que escapan al software de cribado.

La petición busca cerrar estas brechas y garantizar que la tecnología se use de manera segura.

Cómo funciona la síntesis genética y su relación con la IA

La síntesis genética es un proceso que permite crear secuencias de ADN y ARN sintéticos. En la década de 1950, el científico Arthur Kornberg logró sintetizar con éxito ADN por primera vez. Actualmente, este proceso está automatizado y decenas de empresas en todo el mundo utilizan sintetizadores comerciales para ‘imprimir’ y vender secuencias genéticas personalizadas. Estas secuencias se utilizan en investigación científica, desarrollo de fármacos y diagnóstico.

Sin embargo, la facilidad con la que se puede acceder a estas tecnologías ha generado preocupación. En 2017, investigadores canadienses utilizaron ADN pedido por correo para reconstituir el extinto virus de la viruela equina. Este incidente puso de relieve los riesgos potenciales de la síntesis genética sin regulación. La combinación de avances en IA y síntesis genética ha aumentado la preocupación, ya que los grandes modelos de lenguaje pueden ser utilizados para diseñar nuevas toxinas y patógenos peligrosos.

Un dato concreto que ilustra este riesgo es que el costo de la síntesis genética ha disminuido significativamente. Esto ha hecho que sea más accesible para una amplia gama de actores, incluidos aquellos con intenciones maliciosas. Por ejemplo, en 2009, el Consorcio Internacional de Síntesis Genética se formó para implantar prácticas voluntarias de detección. A pesar de estos esfuerzos, muchos proveedores de síntesis genética no investigan a los clientes o las secuencias genéticas que encargan.

• La síntesis genética se utiliza en investigación científica, desarrollo de fármacos y diagnóstico.
• El proceso de síntesis genética está automatizado y es utilizado por decenas de empresas en todo el mundo.
• La combinación de IA y síntesis genética ha aumentado la preocupación por los riesgos potenciales.

Desafíos y consideraciones para el futuro

La principal preocupación es que un patógeno diseñado por IA pueda desencadenar, intencionadamente o no, una pandemia mundial. Para abordar este desafío, es crucial desarrollar herramientas de detección más efectivas y regulaciones que garanticen el uso responsable de la síntesis genética y la IA. Las directrices federales introducidas durante el gobierno de Biden y el proyecto de ley bipartidista presentado en el Senado son pasos en la dirección correcta.

Sin embargo, las herramientas de detección no son perfectas. Un estudio publicado por investigadores de Microsoft demostró que las herramientas de diseño de proteínas mediante IA pueden generar secuencias genéticas potencialmente peligrosas que escapan al software de cribado de las empresas. Esto subraya la necesidad de seguir investigando y desarrollando soluciones para mitigar estos riesgos.