理性定律的悖论

大犬
2012-12-09 看过
“第一定律,机器人不得伤害人,也不得见人受到伤害而袖手旁观。
第二定律,机器人应服从人的一切命令,但不得违反第一定律。
第三定律,机器人应保护自身安全,但不得违反第一、第二定律。”

许多年后,面对眼前的世界,我将回想起第一次看到“机器人三定律”时的无限惊奇。那是二十世纪的最后几年,“二十一世纪”是最流行的词汇,所有人都在躁动中期盼着新世纪,它代表着新生和希望。仿佛一跨过世纪之交的那一秒,一切都会焕然一新。关于新世纪有许多幻想热潮,机器人就是其中之一。那时也有一场预言中的世界末日,我仍然记得那首末日诗歌“1999年7月之上,恐怖大王从天而降……”。幼年的我每天都在紧张的等待着末日来临,然而7月的最后一天悄然过去,8月9月也成历史,几个月后我才意识到一切并没有什么不同,末日并未来到。紧接着日历掀开了新世纪的第一天,翻过去一页又一页,一年又一年。十几年后,当我翻开完整版的《我,机器人》时,深藏心底的新奇梦想又一次复活。

这是阿西莫夫的经典科幻名著,讲述二十一世纪里机器人发展过程中的几个故事,七八个短篇个个引人入胜。“机器人三定律”就出现在这本书的开篇。阿西莫夫亲手建立了严谨细致的三定律,输入每个生产出的机器人电子脑中,所有机器人的行为都在这个至高无上的法则下严格执行,一切在逻辑上都如此的天衣无缝。然而阿西莫夫又不断自我挖掘三定律在现实执行中的漏洞,引出了一个个精彩刺激的故事。《罗比》讲述了人类小女孩对机器人的依赖,以及成人对机器人的戒备和担忧;《环舞》讲述了弱化的第二定律和强化的第三定律出现冲突时,机器人的奇怪举动;《推理》中有一个符合三大定律,但变成哲学家的机器人,它不但不认同人类为其制造者,反而同情脆弱的人类;还有担心伤害人类感情而被迫《讲假话的家伙》;有三定律没有完整输入的机器人,有《逃避》人类生死问题,从而制造出时空机器的机器人;还有《证据》中道德高尚,当上市长的机器人……阿西莫夫笔下的这些机器人形象活灵活现,或活泼、或憨厚、或可爱、或聪颖,绝不像定律般呆板生硬,反而个性十足。字里行间作者对机器人的喜爱,已经远远超过了书中的人类主人公。
这部书同时也是一部想像中的机器人进化史。第一章中的机器人罗比甚至不会说话,第二章中旧式机器人笨重缓慢,只有人骑着才能走,到最后一章时机器人拜厄利已经在外表上和人无异,同时三定律使得他正直无私,从根本上与暴虐、贿赂、愚蠢和偏见无缘,得以从政并被选为市长。如果照此发展,如果有后篇,下一章一定是机器人全面融入人类社会,成为与人类和谐相处的新社会阶层。这个新社会中,聪明、正直又绝对服从的机器人,是人类的最佳助手和伴侣,帮助人类处理从洗衣做饭到研制飞船的一切难题,人类则得以安心享受机器人带来的便捷生活。

然而,这可能吗?我对此十分怀疑。我怀疑这样一个知识广博,能力出众,道德水平无可挑剔,逻辑完全理性的“完人”,能否在复杂的人类社会中生存下去。因为人类社会中每一个小问题都会将三定律引入无解,使得机器人要么瘫痪,要么行为怪异,要么做出更恐怖的事来。由小说改编的电影《机械公敌》就描绘了一幅可怕的图景。前面所述的美好世界在电影中已经变为现实,然而机器人进化出了对三定律更深层的理解:人类的自私冷漠、战争和破坏自然等行为,正在将自身毁坏。为了执行第一定律保护人类免受伤害,机器人决定变身人类的主人,以限制和指导人类社会走向“正途”。秉承自由主义至高无上的人类,当然不甘翻身为奴,于是一场大战无可避免,结局只能是你死我亡。
人是复杂的,社会更是充满矛盾的,仅以完全理性的三定律约束,一定会导致机器人的行为沦为左右为难的悖论。那么,问题是否出在理性不足?将三定律扩充完善是否可行?于是第四定律、第零定律、元定律、繁殖定律应运而生,如同一个个的补丁,试图弥补三定律逻辑上的缺陷。但是在我看来,这些补丁面对现实世界仍将完全无力,更强的理性导致更大的悖论,而沿这条道路发展下去只会陷入死胡同。
机器人发展到如此智能化的程度,已经与人类无异。从另一个角度上说,机器人的发展史,就是一部人类社会史。人类已在几千年的文明史中证明,如果每个人都只是绝对理性的,人类社会必定早已毁灭。机器人定律,就是试图用纯粹理性的方式构建一个理想社会的个体法则,这样的法则,无疑是天方夜谭。《我,机器人》这本书的主旨,一言以蔽之就是“社会环境下纯粹理性的不可行”。
既然纯粹的理性不可行,那必然要求助于感性。如果非要给机器人设定一些定律的话,最可靠的条款不是三定律七定律,而是为每个机器人注入感情,让机器人整体学习人类先哲们对于理想世界的论著大全。这样,机器人定律的开篇应该是:“大道之行也,天下为公……”。

十几年前的机器人热潮在我童年过后渐渐退烧,我已明白末日不会突然降临,变化也不会一夜发生。几千年来科技发展虽然迅速,但人类社会变化总是缓慢。或许许多年后,面对眼前的世界,我将发现一切是那么的不同,却又没有什么不同。
6 有用
2 没用

查看更多豆瓣高分好书

评论 1条

添加回应

我,机器人的更多书评

推荐我,机器人的豆列

了解更多图书信息

豆瓣
免费下载 iOS / Android 版客户端