如何分辨《西部世界》中的人类?

LiTianji
2019-01-11 看过

原文链接:湖岸出版

编辑:一水

在美剧《西部世界》第一季的大部分剧集中,如何使Host(人形AI)拥有心智是两位“造物者”一直思考的问题,同时这也是吸引观众追看下去的动力所在。再到后来,观众们在导演挖的一个又一个坑中除了继续猜测剧情的走向之外,“觉醒的Host真的觉醒了么?”,“还有哪一个人类角色其实也是Host?”这样的问题也开始困扰着观众,到最后甚至于产生了一个奇怪的想法:现实世界里真实存在的我,是否真的拥有自由意志呢?

《西部世界》的海报,一个“圈”围绕着Host

我从哪里来?意识是什么?人的梦想、哀伤、观念、信仰……究竟是真实存在的,抑或仅仅是粒子的物理作用?人工智能只是聪明的机器,还是会拥有自己的生命?在科学大行其道的今天,我们又该如何理解人性与心智?

神书《哥德尔、艾舍尔、巴赫》(简称《集异壁》)是侯世达第一次对这些问题的回答。然而,他认为大多数人都误解了自己。在美国《连线》杂志对他的采访中,他明确地表态谈论人工智能显然是忽略了人类进化的复杂性,而且是极其自私和贪婪的想法。

如何让大家更好地理解《集异璧》,这是侯世达创作《我是个怪圈》的初衷。 ——凯文·凯利

《我是个怪圈》的核心观点是,我们每个人的“自我”其实都是一种幻觉。这种幻觉产生于人类心智模式中符号系统的自我指涉现象,就如同哥德尔的逻辑、艾舍尔的版画和巴赫的音乐一样不断地递归,形成一种“怪圈”。因此,自我究其根本是一种模式(pattern),它既不是一种神秘实体(如“机器中的幽灵”),不是一种外在行为(如AlphaGo的“深度学习”),也不具有绝对的私人性(如托马斯·内格尔的“蝙蝠体验”)。

这就意味着,自我是开源的、多重实现的,是可以在任何基质上存在的,不必非得在我们的身体或者大脑中。同时也意味着,在你与我之间、生与死之间、灵与物之间,并不存在被断然割裂开的黑白两界——动画长片《寻梦环游记》也表达了同样的主旨。通过这样的思考,侯世达完成了对意识之谜的探索,并留下了对因病逝世的前妻卡罗尔深深的怀念。

30年前,我不懂得心智建模和人工智能之间的区别。现在我懂了,因此我把精力放在前者而不是后者,我认为自己是一名认知科学家,而不是人工智能专家。 ——侯世达
《哥德尔、艾舍尔、巴赫》中文版

《我是个怪圈》中文版

罗素的噩梦

“不,不,不要!”售货员这样对年轻的侯世达说,“不能那么做,你会把摄像头搞坏的。”这一幕发生在1970年。当时侯世达和父母正在商店购物,他们想买一台摄像机。侯世达拿起其中一台摄像机,瞄一瞄父亲,又瞄一瞄自己,最后,他调皮地想把摄像机对准电视机的屏幕。在那一刻,他犹豫了,猜想这么一来将会形成一种自我指涉的效果,像是一个怪圈。这么做会有危险吗?其实并没有。但是当他询问售货员可不可以这样做的时候,得到的回答是绝对不行。

无穷的镜像(《我是个怪圈》第68页)

一直以来,人们都觉得自我指涉的结构在逻辑上是奇怪的,是应该避免的。最经典的例子莫过于罗素悖论,其通俗的版本是:

小城的理发师放出豪言:“我只帮城里所有不自己刮脸的人刮脸。”那么问题来了,理发师给自己刮脸么?如果他给自己刮脸,就违反了只帮不自己刮脸的人刮脸的承诺;如果他不给自己刮脸,就必须给自己刮脸,因为他的承诺说他只帮不自己刮脸的人刮脸。两种假设都说不通。

为了解决这个悖论,罗素提出了“类型论”,但侯世达认为这是懦弱的做法,相反,他从20世纪最伟大的哲学家和数学家哥德尔的“不完备性定理”中看到了“怪圈”。

要把怪圈说清楚,总共分几步?

Step 1: 选定一个命题,如“数字g在《数学原理》的规则下不可证”。

Step 2: 将上述命题翻译为哥德尔配数G。

Step 3: 如果g与G相同,那么这个命题可以进一步翻译为:“g(G)在《数学原理》的规则下不可证”在《数学原理》的规则下不可证。

Step 4: 上面的命题可以等价于:本命题不可证。

如果“本命题不可证”为真,那么按照PM规则,则它是可证的,也就是说“本命题可证”;反过来,如果“本命题不可证”为假,那么按照PM规则,则它是不可证的,也就是说“本命题不可证”。这样一来我们便遇到了一个悖论。然而,和罗素不同,侯世达对这一悖论的态度是包容性的。作为概念,集合自身的层级高于集合中的元素——元素决定了集合的性质。然而,从哥德尔的这个例子中,侯世达认为集合自身也能决定元素的性质——因果关系发生了颠倒。这样一来,集合自身与其中的元素形成了某种循环的决定性。此时,侯世达认为,这是缠结,这是怪圈。

类似地,在音乐和视觉艺术中,怪圈的形式无处不在。1948年,艾舍尔创作的版画《画手》(Drawing Hands)就是一个极好的例子。

《画手》,艾舍尔(《我是个怪圈》第120页)

画中有两只手,一只手在画另外一只手,但反过来也被另外一只手画。

在巴赫的《音乐的奉献》中,有一段音阶无穷升高的卡农:

《音乐的奉献》曲谱,《集异璧》第949页,商务印书馆,2017年版

在这段音乐中,你会感觉音阶在永远往上走,但却一点也没升高。在《集异璧》中,侯世达对此的解释是:“在若干不同的八度音域中演奏平行的音阶,每个音符独立地加权,而且当音符上升时,权重就发生变化,让最上面一个八度逐渐减弱,而与此同时逐渐增强最下面的一个八度。”

这种在逻辑链条上不断上行,却总是能够返回自身的形式——怪圈——也适用于我们的电脑:电脑可以复制一个文件,也同时可以复制复制文件的那个程序。同理,我们的自我亦是如此,它仿佛跳出了我们的认知、记忆、偏好和习惯,但却又被后者所描绘。就如同莫比乌斯带或者克莱因瓶一样令人感到匪夷所思。

莫比乌斯带

克莱因瓶

符号的舞蹈

怪圈的启示,在于因果关系的颠倒。这意味着符号是能动的,仿佛会舞蹈一样。事实上,侯世达认为,自我不是指人,不是一个人的名字,不是一个人的身体,不是一个人的心理特征,也不是一个人的社会身份——自我是符号的舞蹈。在这个意义上,侯世达与脑科学划清了界限,他在《我是个怪圈》中生动地比喻道:“把对自我和心智的研究局限在对大脑的研究上,这就好像是在说,对文学作品的欣赏必须关注作品的纸张、尺寸、装订、墨水及其化学性质。”

自我是符号的,符号是不断被生成和强化的。因此,自我可以被理解为一种叙事自我(narrative self),一种虚构。正是这种叙事自我让我们总感觉到在某个特定的地方,好像有一个独立存在的自我,这个自我可以指挥我做各种各样的事情,包括读眼前这篇文章。在这个意义上,我们每个人都很像《天方夜谭》中的苏丹新娘,要夜复一夜地给苏丹讲饶有趣味的故事才能幸免一死;而我们的自我,则是通过各种各样的事情来讲故事,不断强化我们去相信存在着一个稳定的自我。

荒谬,但却高明

实际上,我们的日常语言中的很多概念是不真实的,或者说是非常粗略的,根本经不起“分析”。在《人类简史》中,作者尤瓦尔·赫拉利认为,“人类文明的根基在于虚构的故事”。关于自我的故事其实亦是如此。

恐惧与梦想、希望与哀伤、观念与信仰、兴趣与疑虑、满足与嫉妒、乡愁与怜悯……这一切即便不够“真实”,但却都是我们得以理解自我和世界的概念范畴。也许这个世界上终极的真理是以数学方程来描绘的物理过程,但我们并不习惯以这样的方式去理解。这听起来似乎有些荒谬。

我们是宏观视野的囚徒,而宇宙的法则是在微观的尺度上运行的。 ——侯世达

然而,这却恰恰是我们的高明之处。

在《我是个怪圈》中,侯世达自创了“思考力学”和“统计思维学”的概念来阐释这种高明之处:“我们仅仅是把那些“宏观的力量”想象成了由基本物理力所引发的复杂模式的描述方式而已。正如同摩擦力、黏性、压力和温度等现象可以看作由微观成分的统计学所决定的具有高度预测性的规律现象,宗教信仰、怀乡之情等精神现象也是如此。”这种描述层级的转换使得我们的思维和沟通增加了“可理解性”。与其用上百万个方程去描述某一种复杂而精细的肌肉运动,远远不如你直接说“我在挖鼻屎”让人容易理解。

自知与无知的平衡

虽然是虚构的宏观概念,自我并非没有意义,因为我们需要自我才能生活,也才能与他人交往。在生活中,我们需要知道自己所能控制的事态的范围;在交往中,我们需要明确自己与他人的界限。

自我,是我们大脑的卫星。 ——侯世达

这是我们的自知。

然而,由于我们天生对于微观世界视而不见,所以又无法精确地把握自我,也无法控制行动的每个细节。可以说,一方面我们是自知的,而另一方面,我们又是无知的,如果太偏向于“自知”,“我”将由于太过细节化而失去可理解性,而如果太偏向于“无知”,“我”将由于太过直觉化而失去可预测性。

在这个意义上,“我”总是存在于自知与无知的平衡之中。

直觉泵

古希腊哲学家赫拉克利特宣称“人不能两次踏进同一条河流”,启发了后人不断对于自我问题的思考。这种思考异于后来的实证科学的路径,它主要依赖的是对概念的思辨和逻辑的分析,其中最重要的工具之一便是“思想实验”的构建。侯世达的老朋友,也是当今享誉世界的哲学界泰斗丹尼尔·丹尼特(Daniel Dennett),还专门为如何构想各种各样的思想实验写了一本书,并在书中把那些经过周密设计、精巧谋划的场景故事称作“直觉泵”。顾名思义,直觉泵的作用就是要激发你通过直觉而直达结论,由于其中故事场景的设定可以控制不同的因素,所以我们可以很清楚地看到直觉和推理的原则之间的联系与差异,从而达到反思的目的。

运用直觉泵的大师,迈克尔·桑德尔

彼得·辛格在演讲中运用“池塘论证”

侯世达在直觉泵的运用方面毫不逊色。在《我是个怪圈》中处处可见大大小小的直觉泵。比如在谈到自我同一性问题时,侯世达讨论了著名哲学家德里克·帕菲特(Derek Parfit)在《理与人》(Reasons and Persons)中谈到的一个思想实验,大意是说,一个人在自己所处的星球上经过数据扫描,然后被传输到另一个星球上,并在那里进行复原,从而实现远程传输。这里的问题是,如果数据在传输后,原来的那个人被销毁,则还好,但如果原来的那个人没有被销毁,那么原先星球上的那个人和在目标星球上复原的那个人,到底谁才是原来的那个人呢?

不仅如此,侯世达还改编了这个故事,加入了一个额外的因素,让故事中的那个人在传输的过程中发生了数据的失真:假如侯世达在被传输的过程中,与在另外一个屋里同样做远程传输的帕菲特的数据发生交叉,那么这个问题的答案又会是怎么样的呢?

“既是,也不是。”伴随着侯世达的这个回答,他将我们引向了关于自我和意识的最后一个隐喻。

果园里的彩蝶

和笛卡儿的自我不同,侯世达认为自我并非一种实体,它没有形状,也没有位置。与约翰·塞尔(John Searle)“在机器中寻找灵魂”和大卫·查尔默斯(David Chalmers)的“僵尸机器”的思想实验不同,侯世达认为我们的自我或者意识并非大脑之外的某个东西或者特性,它就是我们大脑思维运作的模式所直接产生的结果。

打个比方,以一台双缸发动机的汽车为例,你可以给它配置一个电动天窗或者一套音响系统,但你不可能给它配置一个“赛车加速度”,因为后者不是外在于发动机的某个特质——如电动天窗或者音响系统那样——它本身就是从发动机的设计中自动获得的性能。

这样一来,关于自我的奥秘,不在于其物理基质是神经元还是电子元件,而在于其结构所形成的模式。这就使得心灵不再局限于大脑,而变成了一种开源的属性。这似乎也同时意味着让计算机拥有意识在原则上是可能的。

然而,侯世达对此的态度并不“乐观”:

目前所有关于人工智能的研究只告诉我们一件事情,那就是人工智能不是什么。 ——侯世达

但至少,这种观点让死亡变得不那么冷冰冰了。

事实上,也正是死亡,才激发了侯世达的思想。1993年,侯世达的妻子卡罗尔因病不幸逝世,年仅42岁。卡罗尔生前与侯世达相爱至深,当侯世达得知她患脑瘤之后,便一直照顾她,并为她翻译了她喜爱的《马罗颂歌》(Le Ton beau de Marot),题献是:希望给孩子的妈妈带来生命力。

侯世达与卡罗尔(《我是个怪圈》第272页)

《我是个怪圈》英文版

在《我是个怪圈》的后半部分中,侯世达深情地回忆起自己挚爱的妻子,试图用充满哲理的、诗意的语言来梳理关于灵魂和死亡的洞见。他说:“当日食发生时,太阳四周仍有日华,围成一圈光晕。当某人逝去时,他也在那些与他亲近之人的灵魂里留下了一抹鲜艳的余晖。随着时光流逝,这道余晖难免渐渐褪色。最终,当所有亲近之人都告别了人世,才真正迎来‘尘归尘,土归土’。”正是通过这样的方式,我们的灵魂存活的时间才得以延长,甚至永生。

哲学差不多就是把我们最隐晦的灵魂和最明晰的逻辑连在一起的努力。 ——陈嘉映

以这样的方式,侯世达告诉我们,灵魂的存在不受限于某种单一的躯体或者载体,它更像是一种“云端”的存在,你我的界限并非黑白分明,而是交叠在一起,形成一种连续的波普。在《我是个怪圈》的附录中,侯世达以“果园里的彩蝶”作为最后的隐喻:每个人的大脑就像果园里的一棵棵树,周围的彩蝶就像我们的意识和自我。虽然每一群蝴蝶都在围绕着一棵树飞舞,但很难分清哪一群蝴蝶在绕这棵树,而哪一群又是在绕那棵树。

4 有用
0 没用

查看更多豆瓣高分好书

评论 0条

添加回应

我是个怪圈的更多书评

推荐我是个怪圈的豆列

了解更多图书信息

豆瓣
免费下载 iOS / Android 版客户端