【AI发展出人类无法理解的语言】脸书关闭“失控”的项目 @ 如是說999

发布时间： 2017-08-01 14:43

Facebook 上个月引起广泛争议的“开发出人类无法理解”的沟通的智能对话机器人项目已经被关闭，因为研究者担心会“失控”。根据 digitaljournal 网站的报道， Facebook 上个月引起广泛争议的“开发出人类无法理解”的沟通的智能对话机器人项目已经被关闭。随后，多家科技媒体也报道了这则消息。

据介绍，上个月 Facebook 人工智能研究所（ FAIR ）使用机器学习方法，对两个聊天机器人进行对话策略迭代升级，结果发现它们竟自行发展出了人类无法理解的独特语言。研究者不得不对其进行了人工干预。

这一研究一经发布，迅速在网络和媒体上引起了广泛的关注和传播，不少人在惊呼：机器创造了自己的语言，人类都无法理解，细思极恐。

但是也有人指出，这不就是一堆乱码吗？现在，这一系统被关进了“小黑屋”。根据国外媒体的报道，现在 Facebook 的研究院已经停止了这一项目的研究，原因是“担心可能会对这些 AI 失去控制”。

这不是第一次发现 AI 偏离训练所用的英文，转向发展出新的更加有效的语言。虽然在人类看来，这些沟通更像是胡言乱语。但是，从 AI 智能体的角度上看，他们实际上是有词义意义的。

用新的语言进行沟通：英语缺乏“反馈”

这篇研究报告的主旨是说机器人可以成为不错的谈判者——他们甚至会假装对某件没有价值的东西感兴趣，然后在谈判过程中牺牲掉它，好像做出了让步。而关于对话智能体发展出自我语言的部分，在研究报告中确实只是一鳞半爪，但却引发了大家的关注。

正如 Fast Co. Design 报道，研究员注意到，系统中的聊天机器人（ bots ）完全放弃了用英语进行交流，但是，升级版的系统确实能够与其他的智能体进行交流。 他们一起可以决定如何继续进行任何工作。一开始，他们所使用的词汇似乎是无法理解的，但是，通过长期的观察，研究者发现，这些词汇其实代表了智能体面临的任务。

例如，在一次交流中，两个进行对话的机器人—— Bob 和 Alice ，使用自己创造的语言来完成了交流。 Bob 开始说：“ I can can I I everything else” 。 Alice 回答，“ Balls have zero to me to me to me to me to me to me to me to me to 。 ” 接下来的对话都是类似这样的句子。