Destacado Facebook debió apagar una inteligencia artificial que creó un lenguaje propio

Tema en 'Noticias' iniciado por MILFO THE RIPPER, 29 Jul 2017.

  1. MILFO THE RIPPER

    MILFO THE RIPPER Usuario Maestro nvl. 6 ★ ★ ★ ★
    212/244

    Registrado:
    9 Jul 2010
    Mensajes:
    61.728
    Me Gusta recibidos:
    90
    Un equipo de Investigación IA de Facebook (FAIR, por sus siglas en inglés) desarrolló un sistema entre dos agentes inteligentes, los que debían negociar. Al inicio, funcionaban según lo esperado, pero al cabo de unos días, Bob y Alice –como se bautizó a estas dos IA– crearon un lenguaje ininteligible para los humanos.

    Según publica Fast Co. Design, que tuvo acceso a los diálogos, los agentes artificiales empezaron a usar palabras que no tenían sentido. Sin embargo, al analizarlo lo que realmente ocurrió es que la IA evolucionó la estructura de las conversaciones para hacerlas más eficientes y sin los adornos que un humano ocupa a la hora de negociar.

    [​IMG]

    El diseño del programa motivaba a los agentes a responder bajo recompensa. Al notar que el inglés no les generaba recompensa, modificaron el lenguaje a uno que consideraron más eficiente.

    “Los agentes se desviaron de un lenguaje comprensible y crearon unas palabras en código por ellos mismos”, explicó Dhruv Batra, miembro del equipo de investigación de IA en Facebook.

    Ante la incapacidad de poder entender lo que se decía, finalmente el equipo decidió apagar el experimento ante la probabilidad de perder el control del mismo. No porque pudiera escaparse a la red u otro, sino más bien porque al no entender la situación, no sabrían nunca cómo corregirlo.

    Digital Journal, que también reportó el caso, señaló que no es la primera vez que una IA crea su propio lenguaje. Dentro de la fundación OpenAI, fundada por Elon Musk, un experimento también comprobó que las IA desarrollaban su propia manera de comunicarse.

    Google mismo introdujo IA a su traductor, lo que elevó la tasa de éxito de traducciones entre idiomas que incluso no habían sido completamente enseñados.

    De todas maneras, el caso plantea una dificultad para los desarrolladores, quienes podrían enfrentarse cada vez a más situaciones donde queden sin entendimiento con la máquina inteligente.

    A su vez, no se sabe si esto en un futuro podría significar que una IA anule a sus propios operadores.

    fuente :http://mouse.latercera.com/facebook-ia-lenguaje/
     
    A Galathar y fearman22 les gusta esto.
  2. Felino 77

    Felino 77 Usuario Avanzado nvl. 4 ★ ★
    262/325

    Registrado:
    18 Jun 2007
    Mensajes:
    10.924
    Me Gusta recibidos:
    587
    Debieron dejarlos para ver hasta donde llegaban ( siempre en un entorno seguro, sin conexión y asdf) mal que mal era un programa diseñado para dialogar/negociar, a lo mas modificaran su lenguaje por muy inteligente que sea, de ahi no sale skynet xD.

    De ahi podria salir un lenguaje o codigo mas eficiente para hacer programas o alguna comunicación entre pc's
     
    A DiegoVV_95 y Mass effect les gusta esto.
  3. kabronx

    kabronx Usuario Habitual nvl.3 ★
    112/163

    Registrado:
    17 Mar 2010
    Mensajes:
    1.691
    Me Gusta recibidos:
    1.599
    Soy Juan Cornejo, algunos en el barrio me dicen Jhon Connor, vengo del futuro, el año 2050 en donde las maquinas gobiernan y la U todavia no tiene estadio, les pido no jueguen con I .A. es el comienzo de nuestro fin, pero para disipar dudas envie a T1, una maquina sexual de 80 kilogramos de carne, mas caliente que el guatero del diablo, que salvara a mi madre, Sara Michelle Bachelet Connor y asesinara a mi hermano, el waton Baba-los, tambien les digo Desde que la evacion en el transantiago sigue sobre 30% y nadie sabe que le.pasa a Lupita.
     
    DejaNxc, janod21, ferhertol y 12 otros les gusta esto.
  4. AraSep

    AraSep Usuario Leyenda nvl.7 ★ ★ ★ ★ ★
    762/812

    Registrado:
    17 Jul 2008
    Mensajes:
    67.508
    Me Gusta recibidos:
    1.859
    :lol:
     
  5. Kaeleme

    Kaeleme Usuario Habitual nvl.3 ★
    162/163

    Registrado:
    17 Dic 2009
    Mensajes:
    8.236
    Me Gusta recibidos:
    2.437
    Qué lógica ocupa una IA ?
    Sería bueno estudiar

    Se agradece el aporte

    Atte
    Klm
     
    A DiegoVV_95 le gusta esto.
  6. deadrider

    deadrider Usuario Casual nvl. 2
    62/82

    Registrado:
    2 Nov 2010
    Mensajes:
    1.082
    Me Gusta recibidos:
    177
    [​IMG]
     
    A Mass effect le gusta esto.
  7. Pesadilla666

    Pesadilla666 Usuario Nuevo nvl. 1
    17/41

    Registrado:
    24 Oct 2016
    Mensajes:
    71
    Me Gusta recibidos:
    60
    me hiciste reir JUAN CORNEJO....

    Ya la habían advertido el tío Elon Musk y el tío Stephen Hawking , genios de nuestra puta época.

    http://www.elmundo.es/tecnologia/2017/07/18/596dc3acca4741ea3b8b45a0.html

    https://es.gizmodo.com/stephen-hawking-la-i-a-puede-ser-el-peor-error-de-la-1571328845
     
  8. teator

    teator Usuario Avanzado nvl. 4 ★ ★
    262/325

    Registrado:
    10 May 2009
    Mensajes:
    18.332
    Me Gusta recibidos:
    1.591
  9. Albo_25

    Albo_25 Usuario Avanzado nvl. 4 ★ ★
    262/325

    Registrado:
    28 Feb 2012
    Mensajes:
    27.293
    Me Gusta recibidos:
    1.756
    ... Y la U todavía no tiene estadio...

    :lol: :lol: :lol:
     
  10. GeneSimmons

    GeneSimmons Usuario Casual nvl. 2
    47/82

    Registrado:
    19 Feb 2011
    Mensajes:
    1.985
    Me Gusta recibidos:
    45
    Para cualquiera parece ciencia ficcion y algo muy probable pero para los que saben de lenguaje con maquinas estas supuestas creaciones o muestras de inteligencia no son mas que errores de los programadores que no consideran todas la posibilidades y posibles errores. En resumidas cuentas esta noticia de ser cierta, lo unico que produce es desconfianza ya que si programaran en algo mucho mas delicado como por ejemplo en una planta nuclear seria un desastre.

    Por mas que quieran, las maquinas no piensan, solo aplican lo que se les programa.

    Agrego algo: la inteligencia artificial existe pero es aparente.
     
    #10 GeneSimmons, 30 Jul 2017
    Última edición: 31 Jul 2017
    A DiegoVV_95 le gusta esto.
  11. BADINHO

    BADINHO Baneado
    0/41

    Registrado:
    30 Sep 2008
    Mensajes:
    432
    Me Gusta recibidos:
    86
    el principio de nuestro fin

    [​IMG]
     
  12. Thrice

    Thrice Usuario Avanzado nvl. 4 ★ ★
    212/244

    Registrado:
    3 Jul 2009
    Mensajes:
    32.005
    Me Gusta recibidos:
    213
    Me recordó con escalofríos a ghost in the shell