Inteligencia artificial crea 40.000 nuevos compuestos letales para armas químicas en seis horas.

Esto demuestra lo peligrosa que puede ser la inteligencia artificial (IA) si cae en malas manos.

​

Un equipo de científicos estaba usando IA para buscar compuestos que pudieran usarse para curar enfermedades, siendo que parte del proceso implica filtrar cualquiera que pueda hacer todo lo contrario: matar a un humano.

Como parte de una conferencia sobre las implicaciones potencialmente negativas de las nuevas tecnologías, la empresa emergente de biotecnología Collaborations Pharmaceuticals, de Raleigh, Carolina del Norte, «pulsó un interruptor» en su algoritmo de IA e hizo que encontrara los compuestos más letales.

El equipo quería ver con qué rapidez y facilidad se podía abusar de un algoritmo de inteligencia artificial, si se establecía en una tarea negativa en lugar de positiva.

Una vez en «modo malo», la IA pudo inventar miles de nuevas combinaciones químicas, muchas de las cuales se parecían a los agentes nerviosos más peligrosos que se usan en la actualidad, según un informe de The Verge. Entre ellos había algunos similares al VX, un agente nervioso extremadamente tóxico que puede causar espasmos incluso en dosis pequeñas.

Los investigadores dijeron que uno de los aspectos más aterradores de su descubrimiento fue lo fácil que fue tomar un conjunto de datos ampliamente disponible de productos químicos tóxicos y usar IA para diseñar armas químicas similares a las más peligrosas actualmente.

Inteligencia tóxica.

La idea de «pulsar el interruptor» de la IA para convertirla en «mala» surgió de la Conferencia de Convergencia, organizada por el Instituto Federal Suizo para la Protección Nuclear, Biológica y Química. El objetivo de la misma es explorar la implicación que las nuevas herramientas y desarrollos podrían tener en el ámbito de las armas químicas y biológicas, incluso sin querer.

Teniendo lugar cada dos años, las conferencias reúnen a un grupo internacional de expertos científicos y de desarme para explorar el estado actual del arte en los campos químico y biológico y sus trayectorias.

​

La IA pudo inventar miles de nuevas combinaciones químicas, muchas de las cuales se parecían a los agentes nerviosos más peligrosos que se usan en la actualidad»​

«Recibimos esta invitación para hablar sobre el aprendizaje automático y cómo puede ser mal utilizado en nuestro espacio. Es algo en lo que realmente nunca antes habíamos pensado», dijo Fabio Urbina, autor principal del estudio. «Pero fue muy fácil darme cuenta de que mientras construimos estos modelos de aprendizaje automático para mejorar cada vez más en la predicción y evitación de la toxicidad, todo lo que tenemos que hacer es girar el interruptor para provocar el efecto contrario».

Para mí, la preocupación es lo fácil que fue hacerlo, muchas de las cosas que usamos están disponibles de forma gratuita. Puede ir y descargar un conjunto de datos de toxicidad desde cualquier lugar. Si tiene a alguien que sabe cómo codificar en Python y tiene algunas capacidades de aprendizaje automático, probablemente en un buen fin de semana de trabajo, podría construir algo como este modelo generativo impulsado por conjuntos de datos tóxicos», añadió.

Fuente: https://www.nature.com/articles/s42...vUfwrWMA7TUcroyYIY1nBDUL3KaS-8B4rG5MIqZCmjm0M