发布时间: 2017-08-01 14:43   

 

 

Facebook 上个月引起广泛争议的“开发出人类无法理解”的沟通的智能对话机器人项目已经被关闭,因为研究者担心会“失控”。根据 digitaljournal 网站的报道, Facebook 上个月引起广泛争议的“开发出人类无法理解”的沟通的智能对话机器人项目已经被关闭。随后,多家科技媒体也报道了这则消息。

 

AI发展出人类无法理解的语言 脸书关闭“失控”项目  

据介绍,上个月 Facebook 人工智能研究所( FAIR )使用机器学习方法,对两个聊天机器人进行对话策略迭代升级,结果发现它们竟自行发展出了人类无法理解的独特语言。研究者不得不对其进行了人工干预。

 

这一研究一经发布,迅速在网络和媒体上引起了广泛的关注和传播,不少人在惊呼:机器创造了自己的语言,人类都无法理解,细思极恐。

 

但是也有人指出,这不就是一堆乱码吗?现在,这一系统被关进了“小黑屋”。根据国外媒体的报道,现在 Facebook 的研究院已经停止了这一项目的研究,原因是“担心可能会对这些 AI 失去控制”。

AI发展出人类无法理解的语言 脸书关闭“失控”项目
 

这不是第一次发现 AI 偏离训练所用的英文,转向发展出新的更加有效的语言。虽然在人类看来,这些沟通更像是胡言乱语。但是,从 AI 智能体的角度上看,他们实际上是有词义意义的。

 

用新的语言进行沟通:英语缺乏“反馈”

 

这篇研究报告的主旨是说机器人可以成为不错的谈判者——他们甚至会假装对某件没有价值的东西感兴趣,然后在谈判过程中牺牲掉它,好像做出了让步。而关于对话智能体发展出自我语言的部分,在研究报告中确实只是一鳞半爪,但却引发了大家的关注。

 

AI发展出人类无法理解的语言 脸书关闭“失控”项目

 

正如 Fast Co. Design 报道,研究员注意到,系统中的聊天机器人( bots )完全放弃了用英语进行交流,但是,升级版的系统确实能够与其他的智能体进行交流。 他们一起可以决定如何继续进行任何工作。一开始,他们所使用的词汇似乎是无法理解的,但是,通过长期的观察,研究者发现,这些词汇其实代表了智能体面临的任务。

 

例如,在一次交流中,两个进行对话的机器人—— Bob Alice ,使用自己创造的语言来完成了交流。 Bob 开始说:“ I can can I I everything else” Alice 回答,“ Balls have zero to me to me to me to me to me to me to me to me to 接下来的对话都是类似这样的句子。

 SOURCE: http://www.awaker.cn/news/detail_107145.html

 (图文來自网络,版权属于原創)

 

    全站熱搜

    如是說 發表在 痞客邦 留言(0) 人氣()