Hace unos días les comentábamos las diferencias que enfrentan a Elon Musk y Mark Zuckerberg sobre la inteligencia artificial (IA). Ahora les contamos cómo a Facebook le explotó en la cara un experimento sobre esa tecnología que tanto defiende su fundador. Un equipo de Investigación IA de Facebook (FAIR, por sus siglas en inglés) desarrolló un sistema entre dos agentes inteligentes, los que debían negociar. Al inicio, funcionaban según lo esperado, pero al cabo de unos días, Bob y Alice –como se bautizó a estas dos IA– crearon un lenguaje ininteligible para los humanos. Según publica Fast Co. Design, que tuvo acceso a los diálogos, los agentes artificiales empezaron a usar palabras que no tenían sentido. Sin embargo, al analizarlo lo que realmente ocurrió es que la IA evolucionó la estructura de las conversaciones para hacerlas más eficientes y sin los adornos que un humano ocupa a la hora de negociar. El diseño del programa motivaba a los agentes a responder bajo recompensa. Al notar que el inglés no les generaba recompensa, modificaron el lenguaje a uno que consideraron más eficiente. “Los agentes se desviaron de un lenguaje comprensible y crearon unas palabras en código por ellos mismos”, explicó Dhruv Batra, miembro del equipo de investigación de IA en Facebook. Ante la incapacidad de poder entender lo que se decía, finalmente el equipo decidió apagar el experimento ante la probabilidad de perder el control del mismo. No porque pudiera escaparse a la red u otro, sino más bien porque al no entender la situación, no sabrían nunca cómo corregirlo. Digital Journal, que también reportó el caso, señaló que no es la primera vez que una IA crea su propio lenguaje. Dentro de la fundación OpenAI, fundada por Elon Musk, un experimento también comprobó que las IA desarrollaban su propia manera de comunicarse. Google mismo introdujo IA a su traductor, lo que elevó la tasa de éxito de traducciones entre idiomas que incluso no habían sido completamente enseñados. De todas maneras, el caso plantea una dificultad para los desarrolladores, quienes podrían enfrentarse cada vez a más situaciones donde queden sin entendimiento con la máquina inteligente. A su vez, no se sabe si esto en un futuro podría significar que una IA anule a sus propios operadores. fuente
Uff que pena que este tema tan interesante no lo pesque nadie. Les cuento un poco estudio electronica (carrera jodidamente dificil), y en protocolos de redes y comunicacion el profe no hablo de este tema, que fue uff muy interesante, y la relevancia de lo que ocurrio es increible primera ves en la historia de la humanidad que ocurre eso. Ahora en mineras y sistemas automatizados se utiliza un concepto de learn machine, o conocido como machine 2 machine, en fáciles palabras significa que las maquinas tienen comunicación entre ellas y aprenden de otras maquinas, parece ciencia ficción pero varias mineras ya implementan este sistema, las maquinas aprenden procesos entre ellas sin necesidad de intervención humana para programar esos nuevos procesos. Estamos a un paso de que la inteligencia artificial sea tendencia y lamentablemente para una maquina el ser humano es demasiado imperfecto, y la película de terminaron hoy en día no parece tanta ciencia ficción.
Como entonces se puede explicar que una maquina pueda entrar en comunicación a voluntad? Por patrones?
A voluntad no entra si no que se le programa para que aprenda de la experiencia de otras como por si decirlo. Te daré un ejemplo no se si abras alguna ves escucha de los camiones no tripulados de la minería específicamente la Gaby en antofagasta, ocurre que estos camiones son autónomos, mediante telemetria posición satélite y todo lo que involucra, el camión era tan preciso que si bajaba a la mina y llegaba hasta el chancado de material que sacara hacia exactamente el mismo recurrido una y otra vez al milimetro y que ocurría que iba formando soca bones al pasar una y otra ves por la huella que dejaba diciéndolo de cierta forma. Bueno se implemento el learn machine con estos camiones donde recolectan información de todos los camiones en el proceso y aprendieron sin programación humana a ir variando su trayecto cada vez que bajaban a la mina para evitar socabones. Lo mismo pasa con muchos automatas de procesos en mineria se retroalimentan entre todos y evitan errores y mejoran el proceso ya sin intervención humana, si lo piensas estamos en el futuro. Este tema es fascinante y peligroso a la vez y no se habla mucho de esto.
Lo ironico de esto es que se generara la necesidad de crear ia para entender el lenguaje que genera la ia. Por otra parte. Los experimentos de facebook son con objetivos comerciales por lo que al salir de control pierde su objetivo.
El machine learning existe desde hace mucho tiempo, pero es verdad que durante los ultimos años se ha ido acelerando. Por ejemplo el programa Alphazero es capaz de aprender sólo a jugar a juegos como ajedrez o go y es casi imposible de vencer.
El tema creo yo es que al darle atribuciones de autonomía de desición a un IA puedes convertirlo gradualmente en una especie de discernimiento artificial más que inteligencia y eso si será peligroso. En este video ha habla como robots dan clases ya Que se les desarrollo "Empatía Artificial" con la cual pueden entender e interpretar sentimientos. Saludos ... Brazuca
Me recago de miedo, y si se crea un IA lo suficientemente hábil como para migrar a internet Y busca la forma de elaborar un cuerpo humano ! Jajaja si... es la película Chapy wenarda. Pero de que pasara puede ser, en el plazo corto ni cagando.
Me da la impresión de que no está creando ningún lenguaje, sino más bien, retornando a su lenguaje original de ceros y unos (lenguaje máquina). Saludos.
