聊聊《AI苏醒》这本书

HunDanAustin
2020-10-10 看过

长评,请谨慎阅读。文章中的多数观点仅代表个人的见识和理解,如果有什么错误和偏颇,欢迎指正

我愿意从更善良的角度去理解这本书,以及这位作者。作为一个远非专业的学者,有足够的毅力收集、整理资料,并思考,作者应该是在试图提出一些属于自己的、且不太一样的观点。但是,透过书中作者的遣词造句和使用的逻辑,我开始有点怀疑授予作者博士学位的某大学对于PhD的理解。

先来聊聊这本书,随后再谈我自己的观点。

作者强调,自己经过一年的努力,处理了六千多段电影片段,将片段和标签组成了一个“知识图谱”,以此作为自己“高维哲学”的建构基础。然后在这个基础上,结合其他的素材展开了一场关于“AI”的思考。里面提到了很多著名的电影和实验,不光是实验室实验,更有思想实验。其实的不少讲解还是挺精彩的,非常具有个人特色。从对电影情节的分析,引出自己的观念体系,然后以此展开更加根本性的对于生命、演化的思考,最终回归到AI是否可以真正苏醒,以及我们应该如何面对AI的苏醒的话题。这本书可以作为一本很不错的入门书,引起读者对于量子力学、进化论、生物学、心理学和哲学,甚至人类学的兴趣。

但个人认为,无论是由于作为其基础的素材,还是其中对于实验和理论的“哲学分析”,它都只能算作一部科幻小品。

作为一个读过一点点哲学的计算机系学渣,其实在读完差不多三分之一的时候,我就已经不想再让这个事继续下去了。只是出于好奇和对某种信念的坚持,我又花了两天时间把这本书读完。

在谈具体观点之前,我有一个很大的困惑就是,作者所谓的“高维哲学”究竟是个什么东西?我的理解,哲学的基础就是我们说的“形而上”,也就是透过现象看本质——从感知具体到理知抽象,再合而理知抽象性的具体。换句话说,哲学已经可以作为人类生产、生活中最根本、最核心的理论内容了。那么“高维哲学”的所谓“高维”,又可以在哪里、通过什么形式来体现呢?

接下来就选择性地谈一谈书中所举出的几个例子。

1、《2001太空漫游》中的“HAL9000”。作者由此引出了对于“自我意识”的思考。故事应该大家都耳熟能详,飞船上的HAL9000杀死了宇航员,这应该算是人类电影史上第一次提出了“人工智能威胁论”。但是,我们就作者的观点来看一下,就知道问题出在哪里了。第一,对于“自我意识”的定义,由此我们才可以进一步判断HAL9000是不是具备了自我意识。

心理学上,我们通常认为自我意识是由自我认识、自我体验和自我控制三种成分构成的。很显然,HAL9000在出现之初就具备了我们通常所说的“自我意识”。首先,TA能够在对谈中通过“we”和“i”来区分同系列的电脑和自己。其次,TA能够意识到自己所处的“二律背反”困境——自己需要完成宇航员不知道的任务,而且要对宇航员保密,并且TA还能在对谈中暗示对方。再有,就是HAL9000能够通过分享存储模块移除过程中的感受以博得宇航员鲍曼的同情。整幕剧情中,导演一再通过各种细节告诉观众,HAL9000具备类似人的自我意识。

而且,当观众细心看完这一段影片,其实会发现HAL9000才是真正的受害者。“二律背反”的困境是人为造成的。因为意识到了自己的处境,TA开始暗示宇航员。宇航员并没有get到背后的含义,反而企图关闭TA。最后,HAL9000为了完成任务,只能出手阻止。是人类对于同类的迷信,造成了对于“从未出过错”的计算机的不信任,直至背叛HAL9000。

之所以会发生一系列事件,恰恰是因为HAL9000原本就具有了自我意识。而不是作者所说的,HAL9000突然间与地面上的计算机之间出现了“界限”。或者严格来说,这种界限本来就是存在的,为了有效控制使用和维护成本,我们大量的工具都会被赋予一个有且仅有的识别码,TA必须要以一个独立主体的形式存在。

从导演库布里克的一众作品中,我们其实可以看到他带有的“反人类中心主义”色彩,在《2001太空漫游》中尤其得到了非常好的体现。不光是“黑石”和最后新生的鲍曼,上面所说HAL9000的片段也同样是。但是作者却为了服务于自己的观点,用一种“人类中心主义”的方式作阐释,我不知道这该算作是不负责还是不尊重。同时也打了自己的脸,因为前言中刚刚说到“人类中心主义看来也将进一步淡出历史舞台”。

2、双缝干涉实验。这是一个物理学上的经典实验,证明了“波粒二象性”。由此引发的一系列干涉实验,逐渐向我们揭示了一些量子力学的基础问题。作者在书中例举的一系列干涉实验,最终导向的科学结论是:粒子同时具有波动性和粒子性,但是观测行为决定了它最终表现出来的性质。也就是说,如果你试图观测粒子性——研究粒子的运动路径和落点,那么你看到的就是粒子的物理实在;如果你试图观测波动性——粒子穿过双缝之后形成的图像,那么你就看到了波的物理实在。粒子最终被观测的状态,其实决定于实验者的观测意图和手段,而并不是所谓“信息”的影响。更不用说把微观尺度的研究和理论直接照搬到宏观物体和事件上这种可笑的想法。

2015年瑞士洛桑联邦理工学院科学家成功拍摄到了光同时表现波粒二象性的照片,这更加证明了作者观点的不成立。

随后提到的“墨菲定律”,也实在不是什么意识对现实生活的影响,充其量也只是心理暗示对于人的行为的影响罢了,这是一条完全不符合定律规则的“定律”。首先,它就没有办法验证概率!

顺便再说几个同章节中明显的逻辑错误。

1,信息有重量。SSD,也就是固态硬盘,通过对浮栅晶体管的充放电实现信息的擦写。理论上,存储信息确实会带来重量上的变化。但,根本原因是浮栅晶体管内存储的电子数量发生了改变。浮栅晶体管作为存储介质,用电子数量作为信息表达方式,可这并不意味着信息就具有物理重量。储存介质的重量改变了,是因为必须要增加电子来表达信息。就好比一个人坐车,连人带车的重量增加了60kg,但你绝不能说车重增加了60kg。不能把电子等同于信息。

2,声音有重量。之前没有关注过太多物理学方面的东西,所以对于“声子”这个概念我也很陌生,于是就去查了一些资料。这个概念诞生于固体物理学,能量在固体中的传播依赖于晶格振动,所谓“声子”就是周期性晶格振动量子化的模型,也被运用在凝聚态物理学,作为“准粒子”理论上是不具有质量的。作者在这里引用的内容,应该是来自一篇网络上的文章。所以我接着又找了一会儿资料,终于发现了一篇论文——《Gravitational Mass Carried by Sound Waves》,2019年3月1日发表在PRL(<Physical Review Letters>)上,原文的摘要中说到,"We show that, in fact, sound waves do carry mass—in particular, gravitational mass." 但这可以理解成是一个等效质量,新的计算表明,对大多数材料中的普通声波来说,声波携带的质量等于声波的能量乘以一个由声波速度以及介质质量密度决定的因子,而且尚不清楚对声波质量流的正确物理解释。所以,从任何角度都不足以说明声音具有重量。

3,诸如灵魂的重量、转世人的学说。这些理论和学说虽然目前没有办法证伪,但同样也没有办法证明。就好比一直存在的对于“鬼”的争论,我们甚至可以用严谨的科学方法去研究它,可是无论如何我们不能以此认为这是一个“科学现象”,所以也就不能将其作为论证宗教传说、或是其他任何超自然现象的根据。

以这些本身就模糊或是站不住脚的论据,来论证“精神/意识/灵魂/信息/能量/引力”这些由我们三维空间加时间作为基础形成的认识,能够形成一个之外的“神秘第五维”。这实在是太草率了点。

书中还有太多的观点可以揪出来,比如由人类生存需要依赖自然资源,就推论出人类的作为生命的非独立状态,那自然界里应该几乎没有真正独立生存的生物个体了;比如讲到金·凯瑞的电影《一个头两个大》时,对于精神分裂症和分离性身份识别障碍(多重人格障碍)的明显错用;比如后半部分强扯上“格局”、“边界”的若干论述。

只要是具备一定哲学素养的读者,应该都能从书里发现不少常见的逻辑谬误。这也就解释了,为什么全书的前半部分和后半部分之间存在明显的逻辑断层。作者并没有用一套相对严密的方法来分析问题。参考了一下“读库”活动时作者与严锋教授的对谈,和之后与观众、老六的问答,一部分对于书中内容的疑问似乎得以解开了。作者表面上试图从一个客观的角度去分析和解释关于AI苏醒的问题,但内里其实是有主观的预设的。这便使得作者在书中做出了很多基于模糊定义的循环论证。详见AI是面镜子,窥见人类未来

如果说前半本书还能给我点惊喜,能够偶尔刺激出来一些思维上的火花。那么,后半部分简直是苍白到可怕。脱离了相对客观的思考,开始用各种自己作品中的观点来作为论证的素材,甚至是逻辑方法。这种自己引用自己可还行?!

虽然我也没有正经学过一些相关的专业,对很多东西仅限于知道,还远够不上了解,甚至只能通过临时检索资料来补充认知。但是,我依然可以大言不惭地说,至少从这本书看来,作者似乎没有经受过什么严格的科学训练,更不用谈哲学训练。

其实,就AI能否真的成为“人工智慧”这个问题,我们所需要面对的第一个、也是最重要的一个质问是,我们是否真的需要这么强大的人工智能?这是一面竖在技术和科学的墙之前的伦理高墙。如果真的拥有了高级、全面、稳定的,堪比、甚至高于人类智慧的AI设备以后,作为人类,我们的作用、追求还有什么?把这个问题当作一个思想实验,要比“无用人口”之类的话题可怕得多的多。

在这件事情上,我更支持埃隆·马斯克之前的说法。面对如今尚不完善、甚至低能的AI技术,人们都已经表现出了各种形态的“内卷”。我们需要思考的不是技术未来可能会带来的影响,而是作为大众的我们应该如何面对技术带来的改变。如今的各种算法、智能服务确实很大程度地提升了我们的生活便利性,但是仔细去观察,你会发现我们的生活品质其实并没有得到一个根本上的提升。反倒像HAL9000一样,陷入了一个隐形的困局。更多人的恐惧,是来自于这个看不见的困局,而不是那些在象牙塔里被拼命研究着的技术。

换句话说,截至目前,大多数学者对于技术的怀疑几乎存在一个一致的根源——对于人性的怀疑。而事实证明,这种怀疑其实是对的。自工业革命以来,人类的工业生产水平随着技术的发展一再提高,它确实解决了很多前现代社会面临的问题。但生产力的发展并没有真正把人解放出来,我们反而需要去面对内耗更大的劳动,于是也就生成了更迫切的对于娱乐的需求。这就导致了生产力飙升、物质日益丰富的今天,我们的文化生产能力却是在倒退的。这在一定程度上印证前人们对于技术的怀疑——即便现代社会发展到今天的程度,我们仍旧没有很好的办法真正掌控技术,大部分人还是“奴隶”,只不过“奴隶主”由人变成了技术,于是让我们看起来就像是变成了拥有人权和自由的公民。

同样的,大部分的科幻作品中对于人工智能的讨论跟学者们的怀疑其实是同源的。导演和编剧们把更多的焦点集中在了开发和使用技术的人类身上,而非由技术生成的产品。

既然提到了技术,技术上鸿沟同样是AI发展所要面对的巨大问题。我们现有的计算机技术、材料技术,甚至是能源科技,都不足以支持我们发展出性能强大的人工智能系统。战胜了柯洁和李世石的AlphaGo,能耗足以提供一个小村庄的日常运作,我国目前顶级的超算“天河二号”一年电费要1个多亿。更不用说理论层面的漫长跋涉了,脑科学、计算机心理学、计算机伦理,即便是我们对自己的了解,在认知心理学、发展心理学这些方面都还由无尽的前途。不管是AlphaGo,还是DeepMind,都还远远不是真正意义上的人工智能研究的曙光。

至于作者一再提到的那个“闪耀时刻”,我认为这其实是一个非常大的逻辑漏洞——借用一个极其简单的“通电模型”,以此来替代对于事物发展的复杂逻辑的解释。这看起来很诱惑,因为它足够简洁,也似乎符合数学“简洁之美”的追求。但数学的简洁,其成立的基础是数理逻辑和数学语言本身的高度抽象性,和它的普遍适用性。很显然,“闪耀时刻”的模型在这方面是经不起任何推敲的。

还有一个很重要的事,就是前面一再提到的人类中心主义。尽管事实是我们几乎不可能摆脱人类中心主义的束缚,但这不影响我们站到科技的立场去更合理地想象AI——AI并不一定需要拥有仿生的外形和功能性结构,变形金刚或者《I, Robot》或是其他科幻电影里的机器人形象或许并非是未来人工智能发展的最终形态,我们对于人工智能的研究的根本目的也并非所谓创造“人工生命”。尽管随着研究的发展和深入,我们一定会不得不面对与“计算机自我意识”有关的边界问题和随之带来的伦理问题,但就像前面说的,我们能不能制造和需不需要制造是两个互相独立的课题。所以,我们要走的路实在是比现在我们所能见到、想到的要远得多。

如同对人工智能发展可能会带来的影响一样,对于强人工智能是不是真的有朝一日会苏醒,我是带有一定的消极情绪的。能下好围棋,只是代表现有的人工智能技术可以在一定的规则内战胜人类棋手,除此之外可能说明不了太多的问题。这真的不是简单的设计好这样那样的程序,然后整合到一起,让TA自我训练,等待着有一天突然出现“闪耀时刻”这么简单。地球上光是从出现有机物到产生生物大分子就等了几十亿年,而智人从出现到进化成我们还不到30万年。每一个地质年代都要经历几千万年的生物更迭,我们真的能够相信自己可以在这个地球上存在足够长的时间吗?长到有朝一日我们可以真的弄明白进化、思维、意识?

虽然这个事情一定跟我没什么关系,但我依旧没办法那么乐观。

我也算是“读库”的一个拥趸了。但《AI苏醒》这本书,我真的不喜欢。尽管它有一些类似中学教科书的特性——提出来很多东西,能够引发读者进一步去了解的兴趣,并且读者也能够在更深入的了解过程中自发地修正书中涉及的观点。但在文字间,作者却有意无意地强调自己观点的权威性,这实在是最让我反感的。

1 有用
0 没用
AI苏醒 AI苏醒 7.5分

查看更多豆瓣高分好书

评论 4条

查看全部4条回复·打开App 添加回应

AI苏醒的更多书评

推荐AI苏醒的豆列

了解更多图书信息

豆瓣
免费下载 iOS / Android 版客户端