Simplemente pídale al programa que mejore, en lugar de reducir, la toxicidad
los documentos científicos son normalmente modelos de discreta subestimación. También están (o al menos se supone que deben estar) cargados con la información necesaria para que otros repliquen sus hallazgos.
No este. "Dual use of artificial-intelligence-powered drug discovery", recién publicado en Nature Machine Intelligence, claramente ha asustado a sus autores. Eso viene tanto en el tono del texto como en la retención deliberada de información crucial. Por lo que Fabio Urbina y Sean Ekins de Collaborations Pharmaceuticals, en Raleigh, Carolina del Norte, y sus colegas están informando es una máquina virtual que se puede utilizar para diseñar armas químicas nuevas y más desagradables.
Esconderse a plena vista
La historia comenzó en 2021, cuando Collaborations Pharmaceuticals, que utiliza computadoras para ayudar a sus clientes a identificar moléculas que parecen medicamentos potenciales, fue invitada a presentar un documento sobre cómo tales tecnologías de descubrimiento de medicamentos podrían ser mal utilizadas. La sede fue una conferencia organizada por el Laboratorio Spiez, en Suiza. Este es un equipo financiado por el gobierno que estudia los riesgos planteados por las armas nucleares, biológicas y químicas. Para prepararse para la presentación, algunos de los investigadores de Collaborations llevaron a cabo lo que describen como un "ejercicio de pensamiento" que se convirtió en una prueba de concepto computacional para fabricar armas bioquímicas.
Su método era inquietantemente simple. Tomaron una pieza de software de descubrimiento de fármacos, llamada MegaSyn (una pieza de inteligencia artificial, ia, que la compañía ha desarrollado con el propósito de juntar moléculas virtuales y luego evaluar su potencial como medicamentos), y pusieron patas arriba una de sus funciones. En lugar de penalizar la toxicidad probable, como tiene sentido si una molécula se va a utilizar médicamente, la versión modificada de MegaSyn lo valoró.
El resultado fue aterrador. Entrenado en las estructuras químicas de un conjunto de moléculas similares a las drogas (definidas como sustancias fácilmente sintetizadas y susceptibles de ser absorbidas por el cuerpo) tomadas de una base de datos disponible públicamente, junto con las toxicidades conocidas de esas moléculas, el software modificado requirió solo seis horas para generar 40,000 moléculas virtuales que caían dentro de los parámetros predefinidos de los investigadores para su posible uso como armas químicas.
La lista incluía muchos agentes nerviosos conocidos, especialmente vx, uno de los más tóxicos. Pero el software también llegó a sustancias aún no sintetizadas que se predice que serán aún más mortales. Preocupantemente, algunos de ellos ocupaban partes de lo que los químicos llaman "espacio de propiedad molecular" que estaban completamente separados de los habitados por neurotoxinas conocidas. Esto sugiere que se podrían desarrollar nuevas clases de armas químicas, si alguien quisiera intentarlo.
Sabiamente, el Dr. Urbina y sus colegas no fueron más allá de eso. No intentaron sintetizar ninguno de sus supuestos descubrimientos y ciertamente no han publicado una lista de ellos. Tampoco han descrito los detalles de su método. Pero, en el esquema más amplio de las cosas, no son esos detalles los que importan. Lo que importa es que han demostrado que este enfoque funciona en principio.
Además, como los propios autores dejan claro, muchas personas tienen el conocimiento, si no el motivo, para actuar sobre ese hecho. "No somos más que una empresa muy pequeña en un universo de muchos cientos de empresas que utilizan software de ia para el descubrimiento de fármacos y el diseño de novo. ¿Cuántos de ellos incluso han considerado reutilizar, o mal uso, las posibilidades?" Admiten que, antes de ser impulsados por su papel en la conferencia, ciertamente no los habían considerado. "El pensamiento nunca antes nos había golpeado. Éramos vagamente conscientes de las preocupaciones de seguridad en torno al trabajo con patógenos o productos químicos tóxicos, pero eso no se relacionaba con nosotros; operamos principalmente en un entorno virtual... Incluso nuestros proyectos sobre el ébola y las neurotoxinas... no habían hecho sonar nuestras alarmas".
Tal ingenuidad seguramente está muy extendida en la industria, y los autores del artículo, que incluyen a Filippa Lentzos, experta en bioseguridad en el King's College de Londres, cuya idea fue escribir el artículo en primer lugar, y Cédric Invernizzi del Laboratorio Spiez, son abiertos al respecto. Como observa el documento, "Nuestras propias herramientas comerciales, así como las herramientas de software de código abierto y muchos conjuntos de datos que pueblan las bases de datos públicas, están disponibles sin supervisión".
En cuanto al tratamiento del problema, los autores hacen preguntas sobre daños tanto directos (¿deberían monitorearse las descargas de software o restringirse las ventas a ciertos grupos?) como indirectos (¿un resultado serán restricciones y reducción de la inversión en un área que tiene un gran potencial médico?). Pero ofrecen pocas respuestas.
Sin embargo, hacen una analogía con gpt-3, un generador de lenguaje natural con mucho potencial de abuso (por ejemplo, la creación de "deepfakes" que pretenden ser las palabras de personas reales). Los inventores de esto hasta ahora han mantenido sus partes más cruciales en secreto mediante el empleo de lo que se conoce como una interfaz de programación de aplicaciones para detener a los forasteros que se entrometen. Eso podría funcionar para futuras versiones de software en el campo del descubrimiento de fármacos, pero hará poco para lidiar con lo que ya existe.
En cualquier caso, incluso si ninguna empresa ha pensado aún en la línea de que el Dr. Urbina y el Dr. Ekins acaban de abrir, los gobiernos probablemente lo habrán hecho. Y también lo harán, tal vez, los grupos terroristas.
Es cierto que los gobiernos de los países ricos han encontrado poco uso de armas químicas en combates regulares desde la Primera Guerra Mundial, y por una buena razón. No son más mortales (y a menudo menos) que los explosivos altos, son más fáciles de proteger y también son más difíciles de contener. Las bombas, los proyectiles y los cohetes son simplemente más confiables. Sin embargo, como agentes de terror, ya sean entregados por estados disfuncionales contra poblaciones rebeldes o por irregulares contra civiles bajo la protección de sus gobiernos objetivo, son perfectos.
0 Comentarios