Life 3.0 Life 3.0 9.0分

“从失败中学习”?用在这里不灵了

黑爪

这本书每个人都应该读。

超级智能机器在我们有生之年会否降临?

它能否被掌控?

它是否应当被掌控?

被谁?

当超级智能机器提供了我们所需的一切,我们的一切贡献将变得无意义,这时我们该如何去寻找人生的目的?

人类能否在超级智能机器的年代生存下去?

读完全书,一个答案也没有找到。

但是,这本书的目的,是邀请所有读者参与这场“我们时代最重要的对话”。

这是MIT天体物理学教授麦克斯·泰格马克(Max Tegmark)今年8月底出版的新书《生命3.0:AI时代的人类》(“Life 3.0: Being Human in the Age of Artificial Intelligence”)。它与绝大多数围绕AI话题的讨论最大的不同点在于,它出自一个物理学家的视角,用更加根本的原理来解释AI,从而避免了大量的技术性计算机术语,其目的,就是上面所说,希望所有的人都参与到这场对话中来。

没有找到答案,不等于没有启发,这二者间的区别是显著的。泰格马克贯穿全书非常重要的一点,是他没有直言指出的肯定和乐观,对通用人工智能会出现的肯定,以及对人类未来的乐观。

按照传统观点,智能是一个神秘的东西,只能存在于生物组织中。而...

显示全文

这本书每个人都应该读。

超级智能机器在我们有生之年会否降临?

它能否被掌控?

它是否应当被掌控?

被谁?

当超级智能机器提供了我们所需的一切,我们的一切贡献将变得无意义,这时我们该如何去寻找人生的目的?

人类能否在超级智能机器的年代生存下去?

读完全书,一个答案也没有找到。

但是,这本书的目的,是邀请所有读者参与这场“我们时代最重要的对话”。

这是MIT天体物理学教授麦克斯·泰格马克(Max Tegmark)今年8月底出版的新书《生命3.0:AI时代的人类》(“Life 3.0: Being Human in the Age of Artificial Intelligence”)。它与绝大多数围绕AI话题的讨论最大的不同点在于,它出自一个物理学家的视角,用更加根本的原理来解释AI,从而避免了大量的技术性计算机术语,其目的,就是上面所说,希望所有的人都参与到这场对话中来。

没有找到答案,不等于没有启发,这二者间的区别是显著的。泰格马克贯穿全书非常重要的一点,是他没有直言指出的肯定和乐观,对通用人工智能会出现的肯定,以及对人类未来的乐观。

按照传统观点,智能是一个神秘的东西,只能存在于生物组织中。而作为一名物理学家,在泰格马克看来,智能就是由基本粒子的运动所产生的某种信息处理,没有任何一个物理定律指出,我们不能制造出各方面智能都高于人类的机器。

一旦我们成功,造出了这样的机器。这有可能是自有人类以来最美好的一件事,也有可能,是自人类产生以来最坏的一件事。是因之繁荣,还是受困于斯,取决于我们。

关于泰格马克有个流传甚广的段子。2014年2月,在伦敦南肯辛顿通往科学博物馆的地铁站通道里,人们看见一个成年男子在那里痛哭,那正是宇宙物理学家麦克斯·泰格马克。他没有破产,也没有被爱人抛弃,他仅仅是参观了当时科学博物馆里的一个展览。展览呈现了人类知识的进化史,从查尔斯·巴贝奇的引擎到阿波罗11号。而引他落泪的,不是这些里程碑式的伟大技术,而是这个发展进程所带来的震撼和顿悟。

泰格马克出生在瑞典,长相与英国流行歌手奇里夫·李察爵士颇有几分相似,却有着当代亚里士多德的情怀。在他绝顶聪明的大脑里,每一个事实,每一条理论,都像是在太阳系里运行,有特定的空间和轨道,康德、冷战史、陀思妥耶夫斯基、乔治奥威尔、亚原子粒子、感知神经学都有各自的位置。

他用一个虚构的“欧米茄小组”研制出超级智能体“普罗米修斯”的科幻故事揭开全书的序曲,与现实中的事件、人物、技术交织,亦真亦幻,从“普罗米修斯”通过租用亚马逊云计算,在亚马逊MTurk(注:MTurk是亚马逊提供的一个互联网众包服务市场,是亚马逊网络服务的一个组成部分)上提供智能服务,赚取第一桶金开始,其智能水平按小时计,递归增长,最终创建商业、媒体帝国,以至控制一切。

以这种“耸人听闻”的方式开篇,不外乎还是那个目的,吸引读者来加入“我们时代最重要的对话”:超级通用AI和人类的前景。

这是一个看上去很残酷的事实,计算机程序能够代替我们做一切的工作,区别只是,它做得更好。我们现今日常所见所议之AI,我在从前的文章里提到过,基本都属于“窄”AI范畴,遵循特定原则,执行特定任务,例如根据输入的字符推测可能的搜索串,或者在相片里识别不同的人脸。现实中,谷歌DeepMind对阿尔法狗的预期,便不同于此;其创始人哈萨比斯本人在很多公开场合不止一次地说过,他们的目的,是为了发现潜藏的通用知识(general knowledge),而“狗”,大概就是一个我们较为熟悉的,尚在成长中的通用智能体。

DeepMind的认识,跟泰格马克一样,他压根不认为通用智能体是一个没有根据的假设。但在这本书里,他所关心的问题,不是AI是否能在智能水平上超过人类,而是,当它超过时,作为人类,我们如何生存下去?

对,开篇时我说过,他是乐观的,但这么看起来,他似乎满是忧患?这并不矛盾。他的乐观来自于,做好准备。因为如果将有一个强大无边的力量出现,而你希望它帮助你,那么唯一的途径是理解它,方能信任它。

上升的技术力量,和管理这个技术力量的智慧,这二者之间的赛跑,我们需要后者胜出。

在构成全书主体的四个章节里,泰格马克描绘了现在和不远的将来,并通过一系列极具独创性的思想实验,勾画出AI的可能远景。

在1962年的古巴导弹危机中,一艘配备了核动力鱼雷的苏联 B-59潜艇,在加勒比海被 11艘美国海军驱逐舰以及一架航空母舰拦截。它的电池失效,失去与莫斯科的联系,艇上的成员在高二氧化碳浓度中开始昏迷......编队指挥官下令向美舰开火,“我们都会死,但我们要让他们跟我们一起沉没。”

有一个人站了出来。编队的三位最高军官之一阿尔希波夫(Vasili Arkhipov)否决了这个命令,从而阻止了第三次世界大战的发生。泰格马克因此在书中发问,如果,那艘潜艇是自动战舰,由AI掌控,将是怎样的结局?

而眼下,可以预料的,AI极可能产生非常糟糕的决策。同时毫无疑问,它在另一方面,会让我们的生活变得更好,或者说,更方便更安全。从总趋势来看,有统计数据可以证明,它让工厂和高速路都变得更安全。 美国的工业事故从1970年的14,000 例,降低为2014年的4,821例,你不能否认AI对这一数字的贡献。

紧随其后的,便是超级智能了。泰德马克为未来的一万年画出了12幅场景。不要为一万年这个数字惊叹,这就是物理学家的世界观。在这12幅场景中,“自由主义乌托邦”十分醒目,在那里,AI,机械人(cyborg humans)以及一群类似于阿米什人(注:Amish,基督新教再洗礼派门诺会中的一个信徒分支,以拒绝汽车及电力等现代设施,过着简朴的生活而闻名,如今主要分布在美国宾州和加拿大安大略省)的农民,在一个被无所不知的极度博学的AI老大哥掌控的全球化政府监管下,相对隔离,但和平而繁荣地共生。而其他物种则处于被灭族的危险当中。

接下来的一章,场景转换到梦幻般的浩瀚宇宙,泰德马克毫不隐晦地指责科幻作家们在作品中,对人类未来的悲观和短视描画。在他的世界里,脱离了物理存在的AI,有着上帝般的智慧头脑,仅仅受制于物理定律,以光速移动,从黑洞旋转的力量中,或者从一种荒诞的名为 “sphaleriser” 的理论化设备中获取能量,将夸克碾碎成一种叫做courgetti的粒子。

泰格马克并没有疯。相反,他特别谨慎。

他在书中没有告诉读者是否需要担心,或者应该怎样去看待这件事。他仅仅发起了争议,这些争议,归结起来主要有两点,而且现今的AI研究领域对这两点并没有达成共识。

其一是关于时间线,我们会否以及何时能够创造出超级通用AI。一部分人认为这是痴人说梦,将永远是科幻,即便会实现,那也是几百年以后的事,现在讨论纯属杞人忧天。这是人类的本能,《权力游戏》中,小恶魔与囧有一段对话,囧困扰于如何才能说服所有人,他们不相信其存在的强大敌人正在逼近。异鬼、夜王在所有人眼里,都是乳母哄他们入眠时信口胡诌的传说。小恶魔告诉他,“(除了极少数)人的意识天生不是用来操心那么大的问题,面对一个熟悉的看得见的魔鬼,例如我姐姐,几乎就是一种解脱。” 而另外有很多人,则坚信,超级通用AI将在几十年内出现,我们必须严肃对待。

其二便是关于这件事是好是坏?有人认为这只是自然进化的一步,人类无疑会兵来将挡,水来土掩。泰格马克在这个问题上的乐观,不是“太阳每天都会升起”这一类。我们需要提前回答很多很多的问题,有的问题也许30年、100年内都不需要我们给出答案,但也许寻找答案这个过程,就需要30年、100年。

关键是,这些问题还并不能依靠技术大咖们来解决。

举个例,我在“大家”9月14日文章《机器人抢了我们工作怎么办?》一文中提到,即便失业并不意味着失去收入断粮,但我们的价值和人生目的如何体现?有读者留言表示不解,质疑我怎么会那么热爱工作?其实物质上的自然满足是否能让一个人得到真正的满足,稍微想一想,答案并不难。又比如,我们有了强大如AI的工具,我们是否希望它能和我们目标一致?可你怎样让它知道我们的目标,并且保证永远一致?连让自己生自己养大的熊孩子跟自己愿望一致还是个难题呢?何况熊孩子长大过程中,目标是不是一变再变?再进一步,作为人类,我们有统一的目标和愿望吗?换句话说,养孩子过程中,爹娘是否永远意见一致?那么这个目标,是川普的还是希拉里的还是ISIS的?

这些,都不是技术极客能够回答的问题。

在过去,技术总能成功,因为我们都相信“失败是成功之母”,可以从错误中学习。火开始惹祸了,我们发明了灭火器;汽车开始伤人命了,我们开始使用安全带…….但是面对更加强大的技术,例如核武器,生物合成技术,以至超级人工智能,我们不能再从错误中学习。因为这学习代价太大,人类付不起。

0
0

查看更多豆瓣高分好书

回应(0)

添加回应

Life 3.0的更多书评

推荐Life 3.0的豆列

了解更多图书信息

值得一读

    豆瓣
    我们的精神角落
    免费下载 iOS / Android 版客户端
    App 内打开