Facebook debió apagar una inteligencia artificial que creó un lenguaje propio

Tema en 'Teología y Filosofía' iniciado por teator, 28 Jul 2017.

  1. teator

    teator Usuario Avanzado nvl. 4 ★ ★
    62/82

    Registrado:
    10 May 2009
    Mensajes:
    17.800
    Me Gusta recibidos:
    1.276
    Hace unos días les comentábamos las diferencias que enfrentan a Elon Musk y Mark Zuckerberg sobre la inteligencia artificial (IA). Ahora les contamos cómo a Facebook le explotó en la cara un experimento sobre esa tecnología que tanto defiende su fundador.

    Un equipo de Investigación IA de Facebook (FAIR, por sus siglas en inglés) desarrolló un sistema entre dos agentes inteligentes, los que debían negociar. Al inicio, funcionaban según lo esperado, pero al cabo de unos días, Bob y Alice –como se bautizó a estas dos IA– crearon un lenguaje ininteligible para los humanos.
    [​IMG]
    Según publica Fast Co. Design, que tuvo acceso a los diálogos, los agentes artificiales empezaron a usar palabras que no tenían sentido. Sin embargo, al analizarlo lo que realmente ocurrió es que la IA evolucionó la estructura de las conversaciones para hacerlas más eficientes y sin los adornos que un humano ocupa a la hora de negociar.


    El diseño del programa motivaba a los agentes a responder bajo recompensa. Al notar que el inglés no les generaba recompensa, modificaron el lenguaje a uno que consideraron más eficiente.

    “Los agentes se desviaron de un lenguaje comprensible y crearon unas palabras en código por ellos mismos”, explicó Dhruv Batra, miembro del equipo de investigación de IA en Facebook.

    Ante la incapacidad de poder entender lo que se decía, finalmente el equipo decidió apagar el experimento ante la probabilidad de perder el control del mismo. No porque pudiera escaparse a la red u otro, sino más bien porque al no entender la situación, no sabrían nunca cómo corregirlo.

    Digital Journal, que también reportó el caso, señaló que no es la primera vez que una IA crea su propio lenguaje. Dentro de la fundación OpenAI, fundada por Elon Musk, un experimento también comprobó que las IA desarrollaban su propia manera de comunicarse.

    Google mismo introdujo IA a su traductor, lo que elevó la tasa de éxito de traducciones entre idiomas que incluso no habían sido completamente enseñados.

    De todas maneras, el caso plantea una dificultad para los desarrolladores, quienes podrían enfrentarse cada vez a más situaciones donde queden sin entendimiento con la máquina inteligente.

    A su vez, no se sabe si esto en un futuro podría significar que una IA anule a sus propios operadores.


    fuente
     
    A Brazuca_10 y Oruga Gritona les gusta esto.
  2. Khanu00

    Khanu00 Usuario Avanzado nvl. 4 ★ ★
    232/244

    Registrado:
    13 Sep 2008
    Mensajes:
    13.231
    Me Gusta recibidos:
    284
    Uff que pena que este tema tan interesante no lo pesque nadie. Les cuento un poco estudio electronica (carrera jodidamente dificil), y en protocolos de redes y comunicacion el profe no hablo de este tema, que fue uff muy interesante, y la relevancia de lo que ocurrio es increible primera ves en la historia de la humanidad que ocurre eso.

    Ahora en mineras y sistemas automatizados se utiliza un concepto de learn machine, o conocido como machine 2 machine, en fáciles palabras significa que las maquinas tienen comunicación entre ellas y aprenden de otras maquinas, parece ciencia ficción pero varias mineras ya implementan este sistema, las maquinas aprenden procesos entre ellas sin necesidad de intervención humana para programar esos nuevos procesos.

    Estamos a un paso de que la inteligencia artificial sea tendencia y lamentablemente para una maquina el ser humano es demasiado imperfecto, y la película de terminaron hoy en día no parece tanta ciencia ficción.
     
    A Brazuca_10 le gusta esto.
  3. Gyriu

    Gyriu Usuario Habitual nvl.3 ★
    197/244

    Registrado:
    26 Ago 2009
    Mensajes:
    42.145
    Me Gusta recibidos:
    65
    Como entonces se puede explicar que una maquina pueda entrar en comunicación a voluntad? Por patrones?
     
  4. Khanu00

    Khanu00 Usuario Avanzado nvl. 4 ★ ★
    232/244

    Registrado:
    13 Sep 2008
    Mensajes:
    13.231
    Me Gusta recibidos:
    284
    A voluntad no entra si no que se le programa para que aprenda de la experiencia de otras como por si decirlo. Te daré un ejemplo no se si abras alguna ves escucha de los camiones no tripulados de la minería específicamente la Gaby en antofagasta, ocurre que estos camiones son autónomos, mediante telemetria posición satélite y todo lo que involucra, el camión era tan preciso que si bajaba a la mina y llegaba hasta el chancado de material que sacara hacia exactamente el mismo recurrido una y otra vez al milimetro y que ocurría que iba formando soca bones al pasar una y otra ves por la huella que dejaba diciéndolo de cierta forma.

    Bueno se implemento el learn machine con estos camiones donde recolectan información de todos los camiones en el proceso y aprendieron sin programación humana a ir variando su trayecto cada vez que bajaban a la mina para evitar socabones. Lo mismo pasa con muchos automatas de procesos en mineria se retroalimentan entre todos y evitan errores y mejoran el proceso ya sin intervención humana, si lo piensas estamos en el futuro. Este tema es fascinante y peligroso a la vez y no se habla mucho de esto.
     
    A Brazuca_10 le gusta esto.
  5. Cafedaki

    Cafedaki Usuario Casual nvl. 2
    42/82

    Registrado:
    18 Nov 2006
    Mensajes:
    606
    Me Gusta recibidos:
    230
    queda poco para Skynet jajaja
     
  6. GranSantiago

    GranSantiago Usuario Casual nvl. 2
    42/82

    Registrado:
    16 Jun 2019
    Mensajes:
    408
    Me Gusta recibidos:
    155
    Lo ironico de esto es que se generara la necesidad de crear ia para entender el lenguaje que genera la ia.

    Por otra parte.

    Los experimentos de facebook son con objetivos comerciales por lo que al salir de control pierde su objetivo.
     
    A Brazuca_10 le gusta esto.
  7. Phili

    Phili Usuario Casual nvl. 2
    27/41

    Registrado:
    2 May 2013
    Mensajes:
    854
    Me Gusta recibidos:
    53
    El machine learning existe desde hace mucho tiempo, pero es verdad que durante los ultimos años se ha ido acelerando. Por ejemplo el programa Alphazero es capaz de aprender sólo a jugar a juegos como ajedrez o go y es casi imposible de vencer.
     
    A Brazuca_10 le gusta esto.
  8. Brazuca_10

    Brazuca_10 Usuario Casual nvl. 2
    62/82

    Registrado:
    26 May 2009
    Mensajes:
    3.246
    Me Gusta recibidos:
    107
    El tema creo yo es que al darle atribuciones de autonomía de desición a un IA puedes convertirlo gradualmente en una especie de discernimiento artificial más que inteligencia y eso si será peligroso.

    En este video ha habla como robots dan clases ya Que se les desarrollo "Empatía Artificial" con la cual pueden entender e interpretar sentimientos.






    Saludos ... Brazuca