Inteligencia artificial crea 40.000 nuevos compuestos letales para armas químicas en seis horas.

Tema en 'Noticias de Chile y el Mundo' iniciado por anbudenka, 24 Mar 2022.

Estado del Tema:
Cerrado para nuevas respuestas
  1. anbudenka

    anbudenka Usuario Avanzado nvl. 4 ★ ★
    112/163

    Registrado:
    11 Jun 2015
    Mensajes:
    10.105
    Me Gusta recibidos:
    35.993
    Esto demuestra lo peligrosa que puede ser la inteligencia artificial (IA) si cae en malas manos.

    [​IMG]

    Un equipo de científicos estaba usando IA para buscar compuestos que pudieran usarse para curar enfermedades, siendo que parte del proceso implica filtrar cualquiera que pueda hacer todo lo contrario: matar a un humano.

    Como parte de una conferencia sobre las implicaciones potencialmente negativas de las nuevas tecnologías, la empresa emergente de biotecnología Collaborations Pharmaceuticals, de Raleigh, Carolina del Norte, «pulsó un interruptor» en su algoritmo de IA e hizo que encontrara los compuestos más letales.

    El equipo quería ver con qué rapidez y facilidad se podía abusar de un algoritmo de inteligencia artificial, si se establecía en una tarea negativa en lugar de positiva.

    Una vez en «modo malo», la IA pudo inventar miles de nuevas combinaciones químicas, muchas de las cuales se parecían a los agentes nerviosos más peligrosos que se usan en la actualidad, según un informe de The Verge. Entre ellos había algunos similares al VX, un agente nervioso extremadamente tóxico que puede causar espasmos incluso en dosis pequeñas.

    Los investigadores dijeron que uno de los aspectos más aterradores de su descubrimiento fue lo fácil que fue tomar un conjunto de datos ampliamente disponible de productos químicos tóxicos y usar IA para diseñar armas químicas similares a las más peligrosas actualmente.

    Inteligencia tóxica.

    La idea de «pulsar el interruptor» de la IA para convertirla en «mala» surgió de la Conferencia de Convergencia, organizada por el Instituto Federal Suizo para la Protección Nuclear, Biológica y Química. El objetivo de la misma es explorar la implicación que las nuevas herramientas y desarrollos podrían tener en el ámbito de las armas químicas y biológicas, incluso sin querer.

    Teniendo lugar cada dos años, las conferencias reúnen a un grupo internacional de expertos científicos y de desarme para explorar el estado actual del arte en los campos químico y biológico y sus trayectorias.

    [​IMG]

    La IA pudo inventar miles de nuevas combinaciones químicas, muchas de las cuales se parecían a los agentes nerviosos más peligrosos que se usan en la actualidad»​

    «Recibimos esta invitación para hablar sobre el aprendizaje automático y cómo puede ser mal utilizado en nuestro espacio. Es algo en lo que realmente nunca antes habíamos pensado», dijo Fabio Urbina, autor principal del estudio. «Pero fue muy fácil darme cuenta de que mientras construimos estos modelos de aprendizaje automático para mejorar cada vez más en la predicción y evitación de la toxicidad, todo lo que tenemos que hacer es girar el interruptor para provocar el efecto contrario».

    Para mí, la preocupación es lo fácil que fue hacerlo, muchas de las cosas que usamos están disponibles de forma gratuita. Puede ir y descargar un conjunto de datos de toxicidad desde cualquier lugar. Si tiene a alguien que sabe cómo codificar en Python y tiene algunas capacidades de aprendizaje automático, probablemente en un buen fin de semana de trabajo, podría construir algo como este modelo generativo impulsado por conjuntos de datos tóxicos», añadió.

    Fuente: https://www.nature.com/articles/s42...vUfwrWMA7TUcroyYIY1nBDUL3KaS-8B4rG5MIqZCmjm0M
     
  2. dansleeper

    dansleeper Usuario Avanzado nvl. 4 ★ ★
    262/325

    Registrado:
    28 Oct 2009
    Mensajes:
    11.754
    Me Gusta recibidos:
    4.901
    I.A. = matense humanos!
     
    A anbudenka le gusta esto.
  3. Chayam Anderson

    Chayam Anderson Usuario Habitual nvl.3 ★
    162/163

    Registrado:
    4 Oct 2019
    Mensajes:
    8.251
    Me Gusta recibidos:
    12.542
    La IA es una aberración , cuando tome conciencia y la tomara querramos o no, fuimos......
     
    A anbudenka y ale_pro87 les gusta esto.
  4. sulphur

    sulphur Usuario Habitual nvl.3 ★
    112/163

    Registrado:
    15 Jun 2010
    Mensajes:
    4.369
    Me Gusta recibidos:
    5.249
    Ningún ratón fábrica su propia trampa, somos bien resacoewea
     
    A alvarojam, marcepo y anbudenka les gusta esto.
  5. TOROCONTETAS

    TOROCONTETAS Usuario Avanzado nvl. 4 ★ ★
    262/325

    Registrado:
    21 Jun 2018
    Mensajes:
    12.150
    Me Gusta recibidos:
    3.412
    El ser humano se cree muy seguro de su existencia en la tierra que lo vio nacer y crecer
     
  6. Azor012021

    Azor012021 Usuario Habitual nvl.3 ★
    112/163

    Registrado:
    13 Mar 2021
    Mensajes:
    2.427
    Me Gusta recibidos:
    3.091
    Aberrrrante puras estupideces
     
  7. Gato.negro

    Gato.negro Usuario Habitual nvl.3 ★
    112/163

    Registrado:
    1 Nov 2016
    Mensajes:
    2.449
    Me Gusta recibidos:
    1.064
    En vez de buscar la cura al cancer hacen esto:nonono:
     
Estado del Tema:
Cerrado para nuevas respuestas