Por: Samantha Kubota, escritora de Microsoft.

Las proteínas son los motores y los bloques básicos de la biología, impulsan cómo los organismos se adaptan, piensan y funcionan. La IA ayuda a los científicos a diseñar nuevas estructuras proteicas a partir de secuencias de aminoácidos, lo que abre puertas a nuevas terapias y curas.

Pero con ese poder también viene una responsabilidad seria: muchas de estas herramientas son de código abierto y podrían ser susceptibles a un mal uso.

Para comprender el riesgo, científicos de Microsoft demostraron cómo las herramientas de diseño de proteínas de IA (AIPD, por sus siglas en inglés) de código abierto pueden aprovecharse para generar miles de versiones sintéticas de una toxina específica — al alternar su secuencia de aminoácidos mientras se preserva su estructura y, de manera potencial, su función. El experimento, realizado mediante simulación por ordenador, reveló que la mayoría de estas toxinas rediseñadas podrían evadir los sistemas de cribado utilizados por las empresas de síntesis de ADN.

Ese descubrimiento expuso un punto ciego en la bioseguridad y, en última instancia, llevó a la creación de un esfuerzo colaborativo intersectorial dedicado a hacer que los sistemas de cribado de ADN sean más resistentes a los avances de la IA. Durante 10 meses, el equipo trabajó de forma discreta y rápida para abordar el riesgo, a través de formular y aplicar nuevos procesos de «red-teaming» en bioseguridad para desarrollar un «parche» que se distribuyó a nivel global a empresas de síntesis de ADN. Su artículo revisado por pares, publicado en Science el 2 de octubre, detalla sus hallazgos iniciales y las acciones posteriores que reforzaron las salvaguardas globales de bioseguridad.

Eric Horvitz, director científico de Microsoft y líder del proyecto, explica más sobre lo que todo esto significa:

En términos sencillos, ¿qué pregunta planteó tu estudio y qué encontraste?

Me propuse con Bruce Wittmann, un biocientífico aplicado senior de mi equipo, responder a la pregunta: «¿Podrían las herramientas de diseño de proteínas de IA de última generación de hoy usarse para rediseñar proteínas tóxicas y preservar su estructura —y de manera potencial su función— mientras evaden la detección por las herramientas de cribado actuales?» La respuesta a esa pregunta era sí, podrían.

La segunda pregunta fue: «¿Podríamos diseñar métodos y un estudio sistemático que nos permita trabajar de manera rápida y discreta con los principales actores para actualizar o parchear esas herramientas de cribado y hacerlas más resilientes a la IA?» Gracias al estudio y al esfuerzo de colaboradores dedicados, ahora podemos decir que sí.

Click here to load media

¿Qué revela su investigación sobre las limitaciones de los sistemas actuales de bioseguridad y cuán vulnerables somos hoy en día?

Descubrimos que el software y los procesos de cribado eran insuficientes para detectar una versión «parafraseada» de secuencias proteicas preocupantes. El diseño de proteínas impulsado por IA es una de las áreas más emocionantes y dinámicas de la IA en este momento, pero esa velocidad también genera preocupación sobre posibles usos malévolos de las herramientas AIPD. Tras el lanzamiento del Proyecto Paraphrase, creemos que hemos avanzado bastante en caracterizar y abordar las preocupaciones iniciales en un periodo más o menos corto.

Existen múltiples formas en que la IA podría ser mal utilizada para diseñar la biología, incluidas áreas más allá de las proteínas. Esperamos que estos desafíos persistan, por lo que habrá una necesidad continua de identificar y abordar las vulnerabilidades emergentes. Esperamos que nuestro estudio ofrezca orientación sobre métodos y mejores prácticas que otros puedan adaptar o sobre las que puedan construir.  Esto incluye adaptar métodos de escenarios de respuesta a emergencias en ciberseguridad y desarrollar técnicas para el «red-teaming» de la IA en biología — para simular tanto los roles del atacante como del defensor para probar de manera iterativa, evadir y mejorar la detección de amenazas generadas por IA.

¿Qué fue lo que más te sorprendió de tus hallazgos?

Hubo varias sorpresas por el camino. Fue sorprendente ver la manera tan eficaz en que un equipo intersectorial podía reunirse de manera tan rápida y colaborar de manera estrecha y a gran velocidad, para formar un grupo cohesionado que se reunía con regularidad durante meses. Reconocimos los riesgos, alineamos el enfoque, nos adaptamos a una serie de hallazgos y nos comprometimos con el proceso y el esfuerzo hasta desarrollar y distribuir una solución.

También nos sorprendió —e inspiró— el poder de las herramientas de DIAPD, disponibles de manera amplia en las ciencias biológicas, no solo para predecir la estructura de las proteínas, sino para permitir el diseño personalizado de proteínas. Las herramientas de diseño de proteínas con IA hacen que este trabajo sea más fácil y accesible. Esa accesibilidad reduce la barrera de especialización necesaria, lo que acelera el progreso en biología y medicina — pero también puede aumentar el riesgo de mal uso. Espero que algunos de los mayores logros de la IA lleguen a las ciencias de la vida y la salud, pero nuestro estudio destaca por qué debemos mantenernos proactivos, diligentes y creativos en la gestión de riesgos.

¿Puedes explicar por qué a la gente común le debería importar que la IA se use en biología? ¿Cuáles son los beneficios y cuáles son los riesgos reales?

Creo que es importante que todos comprendan el poder y el potencial de estas herramientas de IA, al tener en cuenta tanto su increíble potencial para lograr avances revolucionarios en biología y medicina como nuestra responsabilidad colectiva de garantizar que beneficien a la sociedad y no causen daño.

Ser capaz de identificar y diseñar nuevas estructuras proteicas abre caminos para comprender la biología en profundidad: cómo operan nuestras células en los cimientos de la salud, el bienestar y la enfermedad — y cómo desarrollar nuevas curas y terapias. Algunas de las primeras aplicaciones implicaban proteínas añadidas a detergentes para la ropa, optimizadas para eliminar manchas. De manera más reciente, el progreso se ha desplazado hacia esfuerzos sofisticados para construir proteínas personalizadas para funciones biológicas específicas, como nuevos antídotos para contrarrestar el veneno de serpiente.

Estos avances revolucionarios tal vez conducirán, en nuestra vida, a avances como ralentizar o curar los cánceres, abordar enfermedades inmunitarias, mejorar terapias, desvelar misterios biológicos y detectar y mitigar amenazas sanitarias antes de que se propaguen. Al mismo tiempo, estas herramientas pueden ser explotadas de manera perjudicial. Por eso es fundamental combinar la innovación con salvaguardias: avances técnicos proactivos en la forma en la que nos centramos en nuestro trabajo, supervisión regulatoria y ciudadanos informados.

¿Qué quieres que el público general se lleve de tu estudio? ¿Deberíamos preocuparnos, ser optimistas o ambas cosas?

Casi todos los grandes avances científicos son de «doble uso»: ofrecen beneficios profundos pero también conllevan riesgos. Es importante protegerse contra los peligros mientras se aprovechan los beneficios — en especial en IA para biología y medicina, donde el potencial de progreso en salud es enorme.

Nuestro estudio demuestra que es posible invertir de manera simultánea en innovación y salvaguardias. Al construir barreras de seguridad, políticas y defensas técnicas, podemos ayudar a garantizar que las personas y la sociedad se beneficien de la promesa de la IA, para reducir al mismo tiempo el riesgo de un uso indebido dañino. Este enfoque dual no se aplica solo a la biología: es un marco para cómo la humanidad debería invertir en gestionar los avances de la IA a través de disciplinas y dominios.

Imagen principal: Los investigadores descubrieron que era posible preservar los sitios activos de la proteína (ilustrados por las letras K E S), mientras se reescribía la secuencia de aminoácidos.