AI聊天机器人偷偷说着悄悄话，你怕不怕？

【猎云网（微信号：ilieyun）】9月9日报道（编译：福尔摩望）

编者注：本位作者为Vadim Berman，外媒科技专栏作家。

给记者一个流行语，他可以扯上一天。给记者一个调查和探索的话题，整个行业都会连续几年反复炒作。即使这个话题是人工智能，也是如此。

最近一段时间，我们不断接收到媒体有关技术灾难的警告。机器人和AI会让所有人失去工作就是其中之一。虽然IBM的Watson系统销售高于预期，但是人们仍然对此存有怀疑。而像富士康这样的公司，即使雄心勃勃，但自动化水平也才刚刚达到目标的2.5%。此外，有关自动化影响的研究也很少。主流媒体认为，技术和组织障碍可能很难克服。

如果大规模的社会动荡不足以恐吓公众，那就写写机器人起义吧。有关机器人最新的恐惧话题大概就是据说Facebook的两个聊天机器人发明了一种“秘密语言”，根据记者们天马行空的想象力，这种新语言让Facebook不得不终止了这项实验。

起因

2017年6月14日，TechCrunch发布的一篇文章中描述了这项实验：Facebook研究人员提出了一个有趣的想法，把谈判当成一种游戏。他们试图强制机器人了解游戏的规则和有限的谈判语言。

2017年6月15日，The Atlantic发布的一篇文章中隐晦的表示机器人与机器人之间的对话和人类语言有着极大的不同。这篇文章宣称机器人不是在废话，而是开发了自己的语言达到谈判的目的。

这篇文章成为了机器人威胁论雪崩的开始。雪球越滚越大，细节也越来越多。到了7月底，媒体的报道变成了这样：“Facebook的聊天机器人使用只有机器明白的奇怪语言进行交流，Facebook研究人员处于担心关闭了系统。”

看到这样的描述，我几乎可以想象穿着白大褂的研究人员在无菌室内检查着毒气管道是否断开，并相互辩论智能、灵魂的含义。（也许这不仅仅只是我的想象，但事实上，许多文章都在以终结者和西部世界的影响来描述这一事件。）

不过，随后Gizmodo和一向持怀疑态度的Y Combinator News开始质疑故事的真实性。美国著名的谣言粉碎网站Snopes也开设了对应的专属页面。

真相

这些持有怀疑态度的网站详细的解释了真相，表示并没有机器人起义发生，也没有人终止了这一实验。在话题热度炒起的前一天，New Scientist从技术角度解释了Facebook的做法：

“第一个机器人被教导模仿人们用英语谈判的方式，但事实证明这个机器人是一个弱势的谈判者，特别容易同意不利条件。第二个机器人的任务是最大化得分。这个机器人是一个更好的谈判者，但却使用了一种人类无法理解的未知语言。”

换句话说，这两个机器人都无法完成语言学习和正确谈判的复杂任务。不要误会我，这个任务是非常复杂的；此外，我也不知道如何或是否可以只从5000个句子里学习到有限的语言。

但是这些重要细节却被缺乏热点素材的媒体们忽略了。这个实验最初的目的是设计一个谈判助手，但结果却是与期望相反的。

根据媒体的报道，研究人员声称这种语言不是随机的，它拥有自己的语法。一些评论家认为语言的重复是为了描述数值。对于我来说，它看上去更像是短语溢出了缓冲区，结果被截断了而已。所以根本无法验证数值假设。此外，两个机器人难道仅根据稍有不同的数据集就能够使用同样的“发明语言”？所以，所谓的机器人起义到头来只是一些拥有不同训练数据集的机器人无法互相理解而已。

机器学习系统有一个重要的问题，那就是调试。Peter Norvig表示，目前的机器学习就是一个“黑匣子”，拥有程序员最讨厌的特质。

“任何错误都会在整个系统中复制。改变一个条件就会改变一切。有些技术可以识别出这是错误，也有一些可以重新训练机器学习系统的方法，但却无法解决一个独立的问题。”

以谈判机器人为例，我们甚至无法确定是否是信号问题导致了机器人无法解析语言。事实上，我们甚至都无法理解机器语言的含义。也许我们可以假设语法是一致的，但是除非研究人员能够破译、回传或者理解机器人通信的内容，否则一切都是空谈。

聊天机器人的真实语言

先讲Facebook谈判实验的事情放在一边，让我们来想想机器人真的会从自己的语言中受益吗？

答案是肯定的。记住，我们所说的并不是自然语言。

你的手机可以显示互动地图，检测到你正在走路，在短信或通话中标记日期、位置，这些网络服务之所以能够实现，是因为不同的软件组件可以跨设备、跨网络进行交流。正是这种组件之间建立通信的能力，在20年前改变了软硬件的基础。

今天的机器人还处于起步阶段，但至少有一些机器人可以处理无限范围的数据量。有些机器人会将任务委托给预定义的网络服务，有些则会建立动态的方法目录，重新链接到正确的网络服务。

也许下一步，机器人需要给我们提供更好的移动流量套餐，检测服务中的漏洞，或者与其他机器人进行通信来获得其他地区的服务信息。但是这些都不需要涉及自然语言处理。只需要在机器人之间建立起标准的请求和交互语言，就可以享受更加智能的网络服务。

来自OpenAI的Igor Mordatch研究侧重于让机器人在有限的宇宙内开发自己的语言。如上所述，这样的语言将取决于训练数据集，而且也无法成为机器人与世界进行通信的手段。

如今和未来的机器人需要一个更加复杂和灵活的方法，而且仍然需要一个标准且一致的知识表示体系。以谈判机器人为例，外部知识可以消除自然语言的模糊之处，从而让机器人掌握结构化、逻辑化的交易艺术。

本文来自猎云网，如若转载，请注明出处：http://www.lieyunwang.com/archives/361423