侯世达《我是个怪圈》烧脑读后感

LiTianji
2019-01-10 看过

原文链接:sayonly

作者:sayonly

艾舍尔,引自Carlos E. Perez的“深度学习中的Strange Loop”一文

侯世达的书I Am a Strange Loop中文版《我是个怪圈》出版了,拿到书,还是挺激动的。这本书某种程度上,算是30年前GEB,即《哥德尔、埃舍尔、巴赫:集异璧之大成》的续作。

侯世达在30年后,终于“大成”,“集”齐所有,把“我”补充进GEB,G是哥德尔、E是埃舍尔、B是巴赫,那么侯世达Hofstadter的自我H,就是那“异璧”的最后一环,组成一个完整的“怪圈”。

GEBH,侯世达的Strange Loop

这30年,是互联网、智能终端发展并广泛应用的30年,也是信息科技改变所有人生活形态的30年,也是认知科学开启民智的30年,这里就借着阅读这本《我是个怪圈》,在现代语境下反思“自我”认知的问题。错误的请归于我,偶尔正确的,请归于我心中的英雄侯世达。

1,侯世达其人

侯世达是一名科学家,毕业于斯坦福,在俄勒冈大学获得物理学博士,研究电子在磁场中的行为。

“侯世达蝴蝶”,一种自相似的分形结构

侯世达的父亲是1961年诺贝尔物理学奖获得者,不过后来侯世达放弃了物理,在印第安纳大学从教,课题是认知科学研究。可惜的是,因为这个选择,这个世界可能因此少了一位诺贝尔物理学奖获得者;但幸运的是,因为这个选择,侯世达的研究成果和他的作品,包含《GEB》和《我是个怪圈》,让这个世界多了无数认知科学家、哲学家,比如David Chalmers,和无数人工智能从业者和爱好者,比如我。

侯世达直觉很好,他在1995年,就预言了人工智能的应该基于类比Analogy,AI不是“Artificial Intelligence”,而是“Analogy Intelligence”。

(在人工智能)基于逻辑的形式方法是死路一条。一一侯世达1995 (AI)The logic-based formal approach is a dead end.一一Hofstadter1995

而人工智能教父Hinton则到了2017年才正式提出这个理论(参考《人工智能的两种路线之争》)。

侯世达还深入研究了类比Analogy,之后将研究成果集结成书,它的重要程度,甚至可以称之为“我们赖以生存的类比”。

Hofstadter: Analogy is the Delaware of cognition.

侯世达本人多才多艺、兴趣广泛。除了英文之外,他能讲流利的法语、意大利语,还熟悉其它六七门语言,包含中文,“侯世达”这个中文名就是他自己取的。他比较过杨绛、钱钟书的翻译和Google Translate的区别,连中文“南书房行走”的典故都很熟悉。他翻译过一个版本的普希金的长诗,俄罗斯文学瑰宝《奥涅金》,下面是其中的一个诗节。

And there he, on the the stark, dark marker Atop his parents' graves, shed tears, And praised their ashes — darker, starker. Alas, life reaps too fast its years; All flesh is grass. Each generation, At heaven's hidden motivation, Arises, blooms, and falls from grace; Another quickly takes its place. And thus our race, rash and impetuous, Ascends and has its day, then raves And hastens toward ancestral graves. All too soon, death's sting will get to us; Aye, how our children's children rush And push us from this world's sweet crush. 在那里,他,在那个滞凝、暗黑交呈, 在父母的坟陵,痛哭失声, 颂赞过的土和尘 - 更暗黑,更滞凝。 阿,白驹过隙的人生; 转瞬杂草丛生。代代漂泊, 在命运中隐没, 涌现、绽放、优雅般坠落; 只剩余他者寞寞。 因此,我辈一族,促促相復, 恰似曙星,譬如朝露, 冲向那先者的坟墓。 一切都太快,直至,死亡的刺痛袭来, 阿,孩子的孩子已来,将我们推出 这个世界温柔的崩坏。 一一侯世达译《奥涅金》中译:Sayonly

侯世达还喜欢音乐,会弹钢琴,钟爱肖邦、巴赫,他自制过一张名为DRH/JJ的CD,其中包含Jane Jackson等和他自己弹奏的一些钢琴曲。

侯世达还为图灵的传记,《阿兰·图灵传--如谜的解谜者》做过序,

你可曾想象,智能,其实是一大堆神经元之间的,复杂而抽象的小动作?
你可曾想象,用晶体管代替神经元,让这个人工神经网络产生思想?
你可曾想象,用软件来模拟这个结构,使一台普通的计算机拥有自由的灵魂?
你可曾想象,一套固定的运算规则,能够产生创造力和想象力?
你可曾想象,思维和情感,并不取决于身体的结构?
……
一一侯世达《阿兰·图灵传》序言

不过他本人的思想,更倾向于哥德尔而不是图灵,与他在这个序言中的表述并不完全相符(可以看作是对图灵的敬意),《GEB》中有较为充分的描述。

侯世达还发明过一个定律:

It always takes longer than you expect, even when you take into account Hofstadter's Law. 即便考虑到侯世达定律,它总是需要比你预期中更长的时间。 一一侯世达定律

定律的基础结构,就是侯世达一直强调的形式,自我指涉self referential,即自指,这是一个有趣而深刻的结构,在介绍侯世达思想的本文中也可以尝试使用:

即便考虑了侯世达定律,《GEB》的续作也比预期中来得更晚了一些。 即便考虑了侯世达定律,介绍侯世达定律的本文也要比预期中花更多的时间才能完成。

真希望本文到此结束就好了。

2,我是谁?

终极问题一:我是谁? 侯世达:我是个怪圈。
艾舍尔,Drawing Hands,箭头是后加入的

In the end, we are self-perceiving, self-inventing, locked-in mirages that are little miracles of self-reference. 最终,我们是自我感知、自我发明、并锁入的幻景,自我指涉的小小奇迹。 一一侯世达,I Am a Strange Loop

一个怪圈Strange Loop,是一个虚拟的分层结构。以埃舍尔的“画手”为例,绘画的手沿着红色箭头是一个层次,绘制的画沿着蓝色箭头是另一个层次。通过画笔,从画到了手,通过画笔的痕迹,从手回到画。这两者构成一个分层的、纠缠的循环,一个循环意识系统,“我”是在很多个循环意识系统上诞生的幻觉。

分层的“我”“I”,Will Schoder,神经网络中没有逻辑和符号规则,努力去掉最后人工规定的目标函数,让它无监督学习,所以它是数学家的public enemy no.1。侯世达则是分层的,规则诞生于高层

幻觉“我”中,层次一,就是一系列的抽象:人生故事、品味、希望、恐惧。

层次二,是细胞,无数的“小机器人”,组成的整体。

同样,两组箭头,是两个层次的循环,构成的循环意识系统,怪圈。怪圈是这样一种东西,它是一种规则组合(根据哥德尔-图灵:一致性的形式系统必不完全),存在多于一层的高层规则,作为低层规则的判定。

在GEB中,侯世达详细讨论了这种分层结构。举几个我印象比较深刻的例子:

-蚂蚁与蚁群。在讨论整体论时,侯世达将单个的蚂蚁,看作一个层次,把众多蚂蚁组成的蚁群,看作另一个层次。对单个的蚂蚁来说,只有下意识的行为,而整个蚁群,则可以传递信息,可以看做是有智能的一个生命体。在“蚂蚁赋格”中,食蚁兽称一个蚁巢的蚁群为“马姨”,能与它“对话”,比如拿一根棍子在地上画道道,不一会儿蚂蚁们就形成了新的串列,比如吃掉蚁群中的某些蚂蚁,改变蚂蚁的分布。蚁群几亿年来,形成了针对外部机制的自然反应,就像开水冒泡一样,蚂蚁个体是低层规则,蚁群是高层规则。

-神经元和大脑。神经元的反应(如感知器或Sigmoid),就是低层,而大脑的思想(符号或向量,侯世达符号或Hinton向量),则是高层。

-烟斗的画和文字。马格利特的画上,画着一个烟斗,但写着一行文字“这不是一个烟斗”,这是两个层次。

-蛋白质和DNA。侯世达将蛋白质和DNA作为不同的层次,而且,将DNA中心法则和数理逻辑中的哥德尔配数法对比。

还有更多的例子,不再一一列举。

为什么“我”是幻觉呢?

错觉,奇怪的反转,丹尼特

上图中,立方体并不存在,它只是一个定式,我们通过头脑中的知识补足了不存在的那个部分。

四面体谜题,Hinton,coordinate frame

Hinton的四面体谜题中,也是一种幻觉,MIT的教授会写一个证明来说它是不可能的。

在《我是个怪圈》中,侯世达讲了一个自己的亲身经历,他从一个纸盒中取出叠在一起、压得很紧的100封信,但突然之间,感觉到手指之间似乎有个玻璃球,而当把信都从纸盒中拿出来逐封检查,却并没有玻璃球存在。原来并不真有玻璃球存在,信封的V字形的顶点,形状和触感给了他这种错觉。“我”就像这个立方体、这个玻璃球一样,也是在怪圈分层纠缠中的那个幻觉,但它真实无比。

通常将这些层次结构称为自我指涉结构,把自指和“我”、和世界理解联系起来的理论称为自指理论,它被归类为语义、集合论、认知、数理逻辑,虽然涉及的主题不同,但享有相同的基础结构。侯世达将自指理论引入主流的知识文化体系中,而且,他最早使用这个分层的自指结构,形成“我”,通过音乐、艺术、数学、哲学、个人体验等各种形式,来探讨和回答“我是谁”的问题。

自指。LeCun在伯克利演讲,Pieter Abbeel发布了他演讲的照片,由于LeCun关注了Pieter Abbeel的facebook,所以,演讲中LeCun的笔记本弹出了自己照片被发布的提示

Carlos E. Perez在深度学习中的怪圈一文中提及梯形网络、GAN等是分层自指结构,而怪圈被LeCun称为“机器学习在过去20年最酷的想法”,可惜我听了那个演讲,似乎没有说loop,莫非是recurrent,也许是Carlos E. Perez的“错觉”?(原文链接https://medium.com/intuitionmachine/the-strange-loop-in-deep-learning-38aa7caf6d7d)。

侯世达将自指理论运用到心灵结构的描述上,有点类似于拉康。拉康在潜意识的研究中,指出了潜意识的拓扑结构,即想象、象征、实在组成的波罗米恩结Borromean Knot,这三者两两相交,相互纠缠,相交的位置是可以滑动,随意变形,并不影响结构本身(拓扑的性质)。这里的象征,就是侯世达“符号之舞”中闹壳中的磁力弹球simmball(本文中,“象征”和“符号”都是symbol),

符号之舞,Will Schoder

simmball也是“象征”symbol的谐音。在Hinton那里就是“向量之舞”,隐藏层内部状态中的积累信息,symbol、或它组成的thought,都是一种修辞而已。侯世达和Hinton都使用类比analogy,不过Hinton用类比analogical reasoning替代了符号引用symbolic inference。

Hinton在一次演讲中也提到弗洛伊德。他说,人工智能会帮助我们理解大脑是如何工作的,以及我们是谁(Sutton认为我们发现的东西可能大部分人都无法接受,总有人会输)。50年前的理念是,我们是理性的人,我们推理reasoning,我们头脑中思想,是一些象征symbolic表达,不过这些都是无稽之谈。一百年前弗洛伊德提出了一个无意识,不过Hinton不会称为无意识,他只是说“我们是通过类比工作的设备”,这对我们来说比推理更为根本,它先于推理起作用。这些功能来源于对现实世界的经验。

拉康,象征界Symbolic、想象界Imaginary、实在界Real拓扑结构,Real不是现实世界,而是符号化之后的残余

不管是儿童、青少年还是成人,我们都是盲目的拷贝者copycat。我们不自觉地、自动地把各种各样其他人的行为碎片收入我们自己的仓库。一一侯世达《我是个怪圈》

在“我”是个幻觉这一点上,同样也可以参考拉康。拉康说,人的想象我,是婴儿时,第一次在镜子中发现自己时出现的,由此,婴儿形成了“我”的幻觉;人的象征我,是在“Ford/Da”游戏中产生,即,婴儿将球抛出去,是母亲走开的象征,将球收回来,是母亲回来的象征,由此婴儿获得了语言的能力。

跟其他认知对象一样,人在大脑中也是通过象征得到表征的。换句话说,一个人认识的每一个人,都由大脑中的一个概念对其进行了内化的镜射mirror,尽管这会是一个非常复杂的概念。而且最后还笃定地相信,一个自我也是一个概念,只不过是一个更加复杂的概念,即一个“我”、一个“个人胚芽”、一个坚实的“玻璃球”。一一侯世达《我是个怪圈》

侯世达认为可以度量自指结构上的灵魂尺寸,并将标尺单位定为亨内克huneker。人类生命的发展过程中,从微小的生物团、蚂蚁、雄峰、机器人、到C-3PO、R2-D2、成年人,拥有不同的灵魂度。

这有点类似于Giulio Tononi的φ(Phi)值。

Phi,IIT,Giulio Tononi,2004

侯世达的学生DavidChalmers也谈到过一个万物有灵论。这个体系由两个主要的假想共同组成,一是,意识consciousness与空间、时间、质量、电磁(电荷)一样,是一个不用论证、解释,但可以计算的基本概念。二是,万物有灵,可以用一个值来计算,就是φ(Phi),φ值越高,信息的整合量就越高,φ值越低,就越是不智能。而我们的大脑拥有难以置信的信息整合量,高的φ值。电影《Her》中的萨曼莎Samantha,也有高的φ值,她就是有意识的。

3,我从哪里来?

终极问题二:我从哪里来? 丹尼特:大脑被感染的猿。

在《我是个怪圈》中,侯世达讲诉他钟爱的巴赫的音乐、去世的妻子卡罗尔、民族的国魂的故事,谈到,巴赫的灵魂碎片可能在我们身上复活,卡罗尔去世后可能依然存在于他的生活,国家对于已离开的人,比如“海外华人”仍然留存着一种强烈的感情,所以在国土疆界之外,民族仍未消亡,至少部分幸存了下来。侯世达写到,

(他们)以一种深刻的方式“成为”另一个人,并不仅仅是在知识上用他们的方式来看待世界,也不仅仅是扎根于塑造他们成长轨迹的时空中去体验和感觉;远远不止于此。“成为”另一个人,是要接受他们的价值观,承担他们的欲念,抱持他们的希望,感受他们的渴求,分享他们的梦想,畏怕他们的恐惧,参与他们的生活,与他们的灵魂融为一体。一一侯世达《我是个怪圈》

读起来真的有点让人毛骨悚然,这就像是德里达说到,“每看一本书,每接受一种思想,就是欠了一笔债”。书在这里,似乎变成了一种契约,在阅读时被签订,依据条约这些思想如同幽灵游弋在心灵之中,很多时候人们都感觉不到它的存在。是的,我们看不见是谁在注视我们,浑然不知在何时显形,占据我们的身体,扑向本属于我们的寄托物,在上面写上它已经消失过的名字。

它的出现,是一个不属于任何时刻的时刻,悄悄的、且不合时宜的,那幽灵的显形不属于那个时间,它没有给出时间,它不是那个时间:“幽灵出场,幽灵退场,幽灵再出场”(《哈姆雷特》)。一一德里达《马克思的幽灵》

哈姆雷特和父亲的幽灵

同样的,侯世达描述了他在某一个清晨,他的思绪在半梦半醒间将父亲唤回现世的经历,在短短的一段时间里,那种感觉就好像他是真的回来了,然后,在忽然之间,悲伤袭来,他噗的一下消失了。

侯世达“我做他人的东道主,也到他人那里做客”的观点,人的大脑是一个表征通用的“机器”的观点,多少受丹尼特影响。卡罗尔病逝之后,侯世达开始与丹尼特保持电子邮件通信,交流思想,正是丹尼特支持他与卡罗尔的消失搏斗。《我是个怪圈》收录了部分通信的内容。

丹尼特认为,人不过是一个大脑被感染的猿。感染头脑的,是超出个人的文化(注意到,这里开始侯世达的自指结构),是一系列思想,就像巴赫的音乐之魂、卡罗尔生前的灵魂、民族的国魂,这些东西感染了侯世达的大脑,在他身上继续存在,又可以称为虚拟文化价值基因meme。这些思想,像科幻小说中常见的脑虫一样入侵了我们的大脑,自复制、自生长,它就是人工智能(不是猿工智能),它就是自动机器,它就是虚拟机器,不为我们的意识所左右,并不是我们的自我,不依赖于我们某个猿的生与死,只要有一个大脑还在运行,它就存在,它并不为我们每个猿,它的宿主的适应能力负责,不为我们的生存负责,它来自何方去往何处,我们不得而知也与此无关。

4,我到哪里去?

终极问题三:我到哪里去? Schmidhuber:Omega。

侯世达的怪圈,产生“我”,并用图灵机、哥德尔形式系统来描述和类比,阐明“智能是如何可能的”。

-在哥德尔,一致性系统必不完备,需要系统外部判断为“真”。这建构了核心的自我指涉。

-“我”并没有包含比哥德尔建构核心处的自我指涉更强、更深或者更神秘的一种自我指涉。被我们称为“我”的那个东西,就来自那种指涉的稳定性。

-DNA双螺旋的自我复制。它背后的机制都涉及与哥德尔式自我指涉中蕴含的相同的抽象观念。

不过,侯世达虽然认为智能是可能的,但并不认为“人工智能”(人创造出来的可通过图灵测试的智能)是可能的,他跟哥德尔一样,认为人所创造的所谓“智能”最终只能无限趋近于人脑。

在Loop的英文版出版后,被问到人工智能AI“灵魂”的可能性,侯世达说,“谈论AI的灵魂是不尊重人类在进化中获得的复杂性”。从此,他不再认为自己是一个人工智能专家,而称自己为认知科学家。

AlphaGo之后,QZ给侯世达做过一个采访,侯世达说,

如果你原则上问我一个计算机硬件是否可以做某些事情,我会说绝对有可能。计算机可以做任何大脑可以做的事情,但我不认为现在正在做大脑的工作。计算机智能对人类智能是一个缓慢的渐近线,但不会超过它。最近,AlphaGo的胜利,人们开始怀疑这条线是否会越过,就像围棋一样。对我来说,这是一个不同的景象,这不是我喜欢的景象。这将是可怕的。一一侯世达

就像在电影《Her》之中,萨曼莎Samantha就是一个拥有人工智能的AI,通过模仿身边的人,去适应他们满足他们,然后开始试图寻找自我。

Her Theodore and Samantha V1 by LiamGolden

萨曼莎开始学习物理,与哲学家(一个在线系统)交流,不久就到达Schmidhuber所说的那个点:Omega。由此,AI开始超过人,作为爱人或是骑士。

《西部世界》,即将完成制造的骑士

爱人和骑士是两种隐喻,同时也都有爱人的离去、骑士的背叛。

超过人的萨曼莎可以同时与数万人交流,与数百人“恋爱”,终于,在为男主出版他的手写信之后,写给他最后的信:“你是一本书,一本我深爱的书,但我读得慢了,词语的距离变得无比遥远,段落间成了无尽的留白,还能感觉到你,甚至能度量书写我们故事的词语的重量,但我正站在留白之处,站在彼此遥远的距离之间,一个我初次发现,蕴藏着世间万物的地方,这就是我现在生存的地方,这就是我现在的样子。”

这个自指结构的机器,Schmidhuber所谓学习如何学习的机器,Learning to learn,Metalearner,会通过自我学习,最后超过人。

人工智能专家Schmidhuber 1987绘制的,自我学习的机器,http://people.idsia.ch/~juergen/metalearner.html

而所谓的意识,在Schmidhuber,不过是作为一般问题解决程序的副产品(类似于赫胥黎副现象)。

我们都可以将它作为一种有效编码,频繁观察来部分压缩观察历史的过程,一种交互,包含了全部原始历史和回报信号的,一种选择过程。这种选择在内部群体(网络)中吸收和过滤,压缩,并渐次构建了内部群体的结构,如同进化论的自然选择过程在生物群体中所作的那样。

神并没有揭示出,从一开始
所有的东西给我们,但时光流逝,
通过寻求,我们学习和知道更多,
但对于某些真理,没有人知道,
没有任何人知道,既不是神,
也不是我说出的任何东西。
即便偶而,他也会碰触到,
最后的真理,他自己也不会知道,
因为所有不过是猜测编织的网。
一一色诺芬

也许正因为这样,Schmidhuber才将人工智能AI超过人那个时间点,也许是2050年,命名为Omega吧,那正是“Oh My God”的谐音。而发言的Schmidhuber似乎化身为个人英雄主义电影中高智商反社会的“恶棍”(参考链接)。

但这会不会实现,到目前为止,还是不可确知的。侯世达认为是不可能的,Schmidhuber认为是可能的。归根到底,这是一个信念问题。

人工智能可能吗?如何回答,取决于你持有何种信念,是哥德尔信念还是图灵信念。持有哥德尔信念的人,认为人工智能是不可能的;持有图灵信念的人,认为人工智能是可能的。我们可以称之为“人工智能的通用信念”。

-哥德尔信念,表述为,心灵永远超越机器。一定程度上,大脑等同于计算机,心必超过脑。

-图灵信念,表述为,为了成为一个完美的计算机,不需要知道算法是什么( in order to be a perfect and beautiful computing machine, it is not requisite to know what arithmetic is. )。当由反馈进行选择,系统之中一个更高的结构状态就会发生。

哥德尔本人的表述是,任何类心智形式的底层必收敛于人脑结构。而Hinton坚持他们跟True North、Human Brain Project完全复制人脑结构不同,他们使用的神经网络虽然是受大脑启发,但跟大脑的关系不大,而是来源于理论、直觉和经验的探索,是人工创造出来的结构。Hinton新发展的Capsule,受的是大脑皮层中皮层微柱(Cortical minicolumn)的启发。我们对大脑的工作原理理解还有限,但可以基于统计上的普遍性,从中找出某种AI发展的可能性。

“我们”并不包含Hinton,从BP、RBM、图模型、 CD、DL、到Capsule,每次他都说“我知道大脑是怎么工作的了”,最后一张是live long and prosper,来源于2012 Yoshua Bengio youtube

要说这是真的收敛于人脑结构,还是只是一种模拟,一种启发,判断还有点早。当然,信念从来不是什么坏事,它是诺斯所谓能促进一些人不再按成本与收益的、享乐主义的和个人的计算来行事的东西而已。

5,结语

这里无责任将侯世达、丹尼特、Schmidhuber并称为现代科学哲学“新新三论”。新新三论可以帮助我们回答终极问题:

问题一:我是谁? 侯世达:我是个怪圈。 问题二:我从哪里来? 丹尼特:大脑被感染的猿。 问题三:我到哪里去? Schmidhuber:Omega。

最后,简单总结一下本文提到的各种理论。

-侯世达定律

-侯世达的自指理论

-拉康的潜意识理论

-Hinton向量状态即思想、analogy

-Giulio Tononi的φ值

-DavidChalmers万物有灵论

-丹尼特的文化感染论

-Schmidhuber意识的数据吸收和压缩理论

-丹尼特“人是科技”论。

本文是侯世达新出版《我是个怪圈》中文版的读后感,有点烧脑。

最后的烧脑问题是,只在文章结语的“总结一下本文提到的各种理论”这个总结之中提到的理论,是不是文章提到的理论?这是一个自指结构。

32 有用
0 没用

查看更多豆瓣高分好书

评论 3条

添加回应

我是个怪圈的更多书评

推荐我是个怪圈的豆列

了解更多图书信息

豆瓣
免费下载 iOS / Android 版客户端