人类的剧情将怎样演变?

译言·东西文库

这两天有一条消息在朋友圈刷屏了,就是 Facebook 关掉了一个人工智能项目。关停的原因是:这个项目中有两个人工智能客服,一个叫 Alice,一个叫 Bob,发展出了自己的对话语言。

这个消息我们前两天在喜马拉雅《KK对话未来》的节目当中就提到过。不过说实话,当时我(主播赵嘉敏)对这个消息的真实程度有些半信半疑,因为媒体比较喜欢夸大这种事情,哪怕是西方媒体。我当时查了一些消息来源,因为没有见到西方主流大媒体报道,但也没有见到否定的报道,所以并不能确认这件事情是否真实。

另外,Alice 和 Bob 这两个名字也有些随意。这就像中文中的「甲」和「乙」一样,Alice 和 Bob 就是 A 和 B,因为 Alice 的首字母是 A,Bob 的首字母是 B。

果然,今天又有消息出来「唱反调」了。

这个唱反调的人,就是伦敦帝国学院教授、DeepMind高级研究科学家Murray Shanahan,他在twitter上评论了这件事,他认为媒体的反应有些荒谬。真实情况是:Facebook的实验性代码出了一个有意思的故障,不负责任的媒体只是想借机炒话题而已。

显示全文

这两天有一条消息在朋友圈刷屏了,就是 Facebook 关掉了一个人工智能项目。关停的原因是:这个项目中有两个人工智能客服,一个叫 Alice,一个叫 Bob,发展出了自己的对话语言。

这个消息我们前两天在喜马拉雅《KK对话未来》的节目当中就提到过。不过说实话,当时我(主播赵嘉敏)对这个消息的真实程度有些半信半疑,因为媒体比较喜欢夸大这种事情,哪怕是西方媒体。我当时查了一些消息来源,因为没有见到西方主流大媒体报道,但也没有见到否定的报道,所以并不能确认这件事情是否真实。

另外,Alice 和 Bob 这两个名字也有些随意。这就像中文中的「甲」和「乙」一样,Alice 和 Bob 就是 A 和 B,因为 Alice 的首字母是 A,Bob 的首字母是 B。

果然,今天又有消息出来「唱反调」了。

这个唱反调的人,就是伦敦帝国学院教授、DeepMind高级研究科学家Murray Shanahan,他在twitter上评论了这件事,他认为媒体的反应有些荒谬。真实情况是:Facebook的实验性代码出了一个有意思的故障,不负责任的媒体只是想借机炒话题而已。

这个话题其实早在6月份的时候就开始酝酿了。当时,Facebook人工智能研究所(FAIR)发了篇论文,称他们正在研发一种能够讨价还价的机器人。吊诡的是,跟人一样,机器人会假装对商品/项目不感兴趣,跟我们平时买东西讨价还价的策略一个样!

在研发过程中,研究人员让这俩机器人深度学习谈判策略。结果,机器就发明出了人类不懂的语言:

6月20日,《大西洋月刊》报道了这件事,称:机器人发明了我们不懂的语言。

几天前,FAIR宣布要暂停这个项目,对它们进行整改。于是有外媒就略带幽默地称,FAIR「担心AI会失控」。媒体的标题党和疯狂渲染,引起了全球范围的恐慌。

可如今辟谣的消息越来越多,FAIR也承认只是故障,不是机器人发明了语言。这种解释,倒是比较符合Facebook老大马克·扎克伯格对AI的态度。此前,小扎曾公开反驳过特斯拉老大埃隆·马斯克的「AI危险论」,他不以为然地表示,那些声称AI会带来世界末日的人是「极不负责任的」。他认为这种态度太过消极,未来5到10年,AI会给我们的生活带来很多进步,反对AI,就是在反对更安全的汽车,就是不想让病人得到更好的诊疗。

然而,众所周知的是,小扎对AI的态度,也遭到了埃隆·马斯克的反驳。他在twitter上说,小扎对AI的理解还很浅,认知有限。Facebook机器人事件,是不是正印证了马斯克对小扎的看法没错呢?

谁的认知才够深呢?埃隆·马斯克在twitter上说过:关于人工智能的风险问题,詹姆斯·巴拉特的《我们最后的发明》一书值得一读。

5
0

查看更多豆瓣高分好书

回应(1)

添加回应

我们最后的发明的更多书评

推荐我们最后的发明的豆列

了解更多图书信息

值得一读

    豆瓣
    我们的精神角落
    免费下载 iOS / Android 版客户端