Facebook desactivó dos robots porque su inteligencia artificial se salió de control
Bob y Alice eran un par de bots que la empresa Facebook desarrolló con la firme intención de hacer que la inteligencia artificial ayudara a crear diálogos más directos con los seres humanos.
El objetivo principal era comprobar que esa tecnología podía utilizarse para resolver negociaciones favorablemente. Tener empatía con la contraparte, ayudarle a comprender las ventajas de su oferta y, finalmente, cerrar el diálogo con resultados positivos para ambas partes.
La división de Facebook de desarrollo de inteligencia artificial (FAIR, por sus siglas en inglés) creó el sistema necesario para que Bob y Alice funcionaran. Para poner a prueba sus habilidades, permitieron que ambos bots comenzaran a interactuar entre ellos y así mejoraran sus habilidades comunicativas.
Todo iba muy bien con el periodo de prueba hasta que los desarrolladores del sistema descubrieron que en sus conversaciones existían palabras erróneas y oraciones aparentemente sin sentido.
En un principio creyeron que se trataba de un error de programación, hasta que descubrieron que dentro de ese aparente fallo existían patrones y en realidad se trataba de un extraño lenguaje que Bob y Alice desarrollaron por sí mismos.
Los investigadores de FAIR decidieron desconectar a ambos bots porque el hecho de comenzar a desarrollar su propio lenguaje e ignorar el idioma con el que habían sido programados implicaba un riesgo de que el procesos se saliera de control y los creadores perderían por completo de vista de lo que hablaban, porque ellos no lograban entender ese nuevo "lenguaje máquina".
Este acontecimiento resulta una llamada de atención para que las tecnologías basadas en la inteligencia artificial se afinen. Cuando un sistema de este tipo decide ignorar las instrucciones de sus creadores para comenzar a tomar decisiones tan relevantes como crear un idioma nuevo y usarlo en lugar del que le dieron sus desarrolladores, implica un riesgo a la hora de pensar en redes neuronales más complejas para acciones que implican más responsabilidades que las de sólo interactuar en una conversación para negociar algo.
Hace unos días, Elon Musk, el empresario considerado como "el hombre más innovador del mundo", advirtió que el desarrollo de tecnologías artificiales podría convertirse en un peligro para los seres humanos.
0 Comentarios