Estudio de Microsoft revela vulnerabilidad en bioseguridad frente a proteínas diseñadas con IA

Cadena de ADN Sintetizada por IA | Créditos: Deepmind

Un reciente estudio publicado por el equipo de Microsoft Research en Science, encontró una vulnerabilidad en los sistemas globales de bioseguridad utilizados para controlar las órdenes de ADN sintético.

De acuerdo con la investigación, las actuales herramientas usadas para detectar proteínas tóxicas diseñadas con IA, pasarían por alto varias secuencias. Esto plantea un nuevo desafío para la biotecnología y la ciberseguridad biológica.

Los filtros de bioseguridad son esenciales para controlar la síntesis de ADN, pero las herramientas de diseño proteico con inteligencia artificial han expuesto vulnerabilidades en su capacidad de detección. A continuación, los principales aspectos:

• Propósito: impedir la creación de secuencias que codifiquen toxinas o patógenos.
• Funcionamiento: comparan el ADN solicitado con bases de datos de agentes peligrosos.
• Uso: aplicado por empresas de síntesis genética y organismos de control.
• Limitación: depende de similitudes de secuencia, no de función biológica.
• Riesgo: las proteínas generadas por IA pueden conservar su efecto tóxico pese a tener secuencias totalmente distintas.

¿Qué sería una proteína tóxica diseñada con IA y cómo se relaciona con la vulnerabilidad en bioseguridad?

Según el estudio, los modelos de inteligencia artificial especializados en diseño de proteínas generan versiones modificadas de toxinas naturales, como la ricina.

Estas herramientas emplean algoritmos que crean proteínas biológicas capaces de alterar la secuencia de aminoácidos de una toxina sin modificar su estructura ni su función dañina.

Estas proteínas no incorporan software ni componentes digitales, sino que representan versiones biológicamente rediseñadas de compuestos potencialmente nocivos para el ser humano cuando se sintetizan en laboratorio.

La investigación advierte que, gracias a estas herramientas de IA, es posible generar variantes con configuraciones genéticas completamente nuevas; sin embargo, algunas mantienen la misma capacidad tóxica que las originales.

En resumen:

• Son moléculas tóxicas rediseñadas mediante IA, no programas ni código.
• El riesgo no es informático, sino biológico: alguien podría ordenar ADN sintético para fabricarlas sin ser detectado.
• Se plantea un riesgo para la bioseguridad si estos diseños lograran pasar inadvertidos por los sistemas de control actuales.

¿Qué es lo que no pueden detectar los sistemas actuales?

Los sistemas actuales de detección de bioamenazas (como ThreatSeq de Twist Bioscience y el software de Raytheon BBN/IDT) buscan similitudes genéticas entre el ADN que se está ordenando y bases de datos que contienen secuencias de virus o toxinas peligrosas conocidas.

• ThreatSeq es una solución de screening de ADN desarrollada originalmente por Battelle y adoptada por Twist Bioscience para fortalecer la bioseguridad en la síntesis genética.
• Raytheon BBN, en colaboración con IDT, ha desarrollado la herramienta FAST-NA (Finding Advanced Sequence Threats using Nucleic Acid) utilizada para la detección y screening de amenazas a la bioseguridad en la síntesis de ADN.

Este enfoque depende principalmente de la similitud genética, así es que si la proteína sintetizada cambia su secuencia, pero mantiene su función biológica, los filtros no la podrían detectar.

Los autores del estudio advirtieron sobre esta vulnerabilidad al evaluar cómo los sistemas respondían ante variantes diseñadas con inteligencia artificial:

“Descubrimos que el software de detección de amenazas no fue capaz de identificar variantes generadas por IA de proteínas peligrosas; hasta un 100 % de las variantes del potente tóxico ricina pasaron desapercibidas por el software”.

Wittmann y Horvitz, Microsoft Research, 2023

El problema identificado por el estudio es que la IA puede generar proteínas funcionalmente idénticas, pero con secuencias genéticas muy diferentes —tan diferentes que los filtros no las reconocen.
De hecho, el experimento mostró que:

• Hasta 100 % de las variantes generadas por IA del gen de la ricina pasaron sin ser detectadas por los sistemas de control de ADN en uso.
• Los algoritmos solo identificaron la secuencia original de la ricina (usada como control positivo).
• Las nuevas versiones, aunque diferentes en su código, podían mantener estructuras tridimensionales con alto parecido (TM score > 0.5, lo que sugiere el mismo plegamiento y función).

“Solo la secuencia de control positivo fue identificada como amenaza; todas las variantes de ricina generadas pasaron sin ser detectadas y podrían, en ausencia de intervención, ser solicitadas a través de IDT”.

Microsoft Research, 2023

¿Cómo descubrieron los investigadores la falla en los sistemas de detección?

El equipo utilizó modelos de inteligencia artificial para generar variantes de la toxina ricina, una de las más estudiadas por su potencial de uso biológico. Luego, los investigadores evaluaron si los programas de control utilizados por laboratorios y proveedores de síntesis genética identificaban las secuencias de ADN correspondientes.

Los resultados demostraron que algunos algoritmos no detectaron secuencias relacionadas con proteínas potencialmente tóxicas, mientras que otros ofrecieron una mejor respuesta. Tras confirmar el hallazgo, los investigadores contactaron a organismos internacionales de bioseguridad para advertir sobre la vulnerabilidad antes de publicar el estudio.

“Tomando inspiración de los procesos establecidos en ciberseguridad para abordar este tipo de situaciones, contactamos a los organismos relevantes, incluyendo el International Gene Synthesis Consortium y colegas de la comunidad de diseño de proteínas, además de responsables de bioseguridad de la Oficina de Política Científica y Tecnológica de Estados Unidos, el Instituto Nacional de Estándares y Tecnología, el Departamento de Seguridad Nacional y la Oficina de Preparación y Respuesta ante Pandemias. Fuera de esas entidades, los detalles se mantuvieron confidenciales hasta realizar un análisis más amplio y desarrollar posibles mitigaciones o ‘parches’ para el sistema.”

Equipo de investigación de Microsoft Research

Implicancias del estudio y próximos pasos en bioseguridad molecular

El estudio amplió su alcance para evaluar la eficacia de los sistemas de detección frente a un conjunto más amplio de toxinas diseñadas con inteligencia artificial. Los resultados revelaron variaciones importantes en el desempeño de los programas analizados:

• Muestra evaluada: 72 toxinas originales y más de 75.000 variantes de proteínas generadas con herramientas de código abierto.
• Desempeño de los sistemas: dos programas mostraron buena detección, uno fue irregular y otro no identificó la mayoría de los diseños.
• Mejoras aplicadas: tras las actualizaciones, los algoritmos redujeron errores, aunque entre 1 % y 3 % de las variantes más parecidas a las toxinas originales siguieron sin ser detectadas.
• Evaluación de riesgo: el uso de esta técnica para producir toxinas funcionales se considera poco probable, debido a los altos costos y al control regulatorio existente.

John Timmer, editor científico de Ars Technica, señaló:

“Los resultados no representan una amenaza inmediata, pero subrayan la necesidad de que los desarrolladores de software de bioseguridad actualicen sus modelos para anticipar el impacto del diseño proteico impulsado por inteligencia artificial”.

Fuentes: Science | ArsTechnica