近日,Facebook(脸谱)传出了关闭智能对话机器人项目的消息。原因是,工程师对两个聊天机器人进行对话策略迭代升级,结果发现它们竟自行发展出了人类无法理解的独特语言。研究者不得不对其进行了人工干预。
消息传出后,一时间,Facebook关闭“失控”AI系统,因其发展出人类无法理解的语言的标题充斥各大媒体版面。要知道,Facebook创始人马克·扎克伯格近日刚在自己的主页上怼了硅谷“钢铁侠”埃隆·马斯克,认为人工智能不会带来末日,人类也不必恐慌。现在这么快就被打脸了?
然而,实际情况并非如此。
据澎湃新闻报道,Facebook人工智能研究院(FAIR)想要训练一个人工智能聊天机器人,让它学会谈判。于是他们开发了一个“生成式对抗网络”(Generative Adversarial Networks,简称GAN)。
Facebook工程师希望训练聊天机器人,让它带着“目的”和人类对话。这个目的很简单:两本书、一顶帽子和三个篮球,三种东西分别设定了不同的权重,为的是让机器人明白它到底有多想要这些东西,然后去和人谈判。
研究过程,Facebook工程师对两个机器人聊天的内容产生了兴趣,结果发现系统中的聊天机器人Alice和Bob生成了让人看不懂的对话。这段对话第一眼看像是一堆无法解读的乱码,工程师后来发现,原来是在为系统设置条件时,虽然告诉了聊天机器人“请用英文”,但忘了告诉它们“请用英文语法”。
“我们的目标是让机器人和人聊天,提高和人聊天的技巧。”Facebook工程师迈克·刘易斯指出,Alice和Bob的对话根本就是个试验而已,让两个聊天机器人聊天根本没有意义。
迈克·刘易斯还指出,Alice和Bob其实也没发明新的语言,因为他们还是在用“i”“balls”“the”等英文单词沟通,只是由于没有了英语语法这个限制条件,创造了一种新的表达方式而已。
所以,Facebook并没有“关掉”这个系统,而是重新设定了正确的条件,修正了机器人的行为,让机器人用标准的英语语法来进行交流。修正的原因也不是因为害怕系统失控。 (王心馨 张唯 )