Destacado Facebook debió apagar una inteligencia artificial que creó un lenguaje propio

Un equipo de Investigación IA de Facebook (FAIR, por sus siglas en inglés) desarrolló un sistema entre dos agentes inteligentes, los que debían negociar. Al inicio, funcionaban según lo esperado, pero al cabo de unos días, Bob y Alice –como se bautizó a estas dos IA– crearon un lenguaje ininteligible para los humanos.

Según publica Fast Co. Design, que tuvo acceso a los diálogos, los agentes artificiales empezaron a usar palabras que no tenían sentido. Sin embargo, al analizarlo lo que realmente ocurrió es que la IA evolucionó la estructura de las conversaciones para hacerlas más eficientes y sin los adornos que un humano ocupa a la hora de negociar.



El diseño del programa motivaba a los agentes a responder bajo recompensa. Al notar que el inglés no les generaba recompensa, modificaron el lenguaje a uno que consideraron más eficiente.

“Los agentes se desviaron de un lenguaje comprensible y crearon unas palabras en código por ellos mismos”, explicó Dhruv Batra, miembro del equipo de investigación de IA en Facebook.

Ante la incapacidad de poder entender lo que se decía, finalmente el equipo decidió apagar el experimento ante la probabilidad de perder el control del mismo. No porque pudiera escaparse a la red u otro, sino más bien porque al no entender la situación, no sabrían nunca cómo corregirlo.

Digital Journal, que también reportó el caso, señaló que no es la primera vez que una IA crea su propio lenguaje. Dentro de la fundación OpenAI, fundada por Elon Musk, un experimento también comprobó que las IA desarrollaban su propia manera de comunicarse.

Google mismo introdujo IA a su traductor, lo que elevó la tasa de éxito de traducciones entre idiomas que incluso no habían sido completamente enseñados.

De todas maneras, el caso plantea una dificultad para los desarrolladores, quienes podrían enfrentarse cada vez a más situaciones donde queden sin entendimiento con la máquina inteligente.

A su vez, no se sabe si esto en un futuro podría significar que una IA anule a sus propios operadores.

fuente :http://mouse.latercera.com/facebook-ia-lenguaje/