最好的最糟的结局
这篇影评可能有剧透
从看完电影之后，我就一直在听Enola Gay。Caleb刚到Nathan的科研基地后，他的手机就放了这首歌。听到这里，黑暗的电影院里我感到突然一震，第一个预兆：
These games you play
They're going to end in more than tears some day
虽然这个曲子只出现了一下，我却觉得这才是整个电影的真正主题。
第二个预兆，是道德的突然出现。
Ava问Caleb，你是不是一个好人。
我当时心里又是一紧。什么是好人？这是道德感第一次出现在电影里。
等到全篇结束的时候，我重新回味这个片段，Caleb，为何你不问Ava，你是不是好人？
人与人尚且互相欺骗，Ava也有可能欺骗Caleb，但是，这个问句至少提示，作为人类，你如何评价AI的行为，道德，和它的准则。非常遗憾，Caleb全然忽略了这些。轻信，愚蠢。
但更加愚蠢的其实是Nathan。人性何等难测，你却非要在极端幽闭的环境下进行这样的测试，这个测试对于AI固然是个考验，对于测试者Caleb，何尝不也是考验呢？我在看电影的时候，一直在想Zimbardo的监狱实验，实验过程中，所有的人都渐渐发生了变化，他并没有做什么错事，但他默许了糟糕的事情发生。Nathan明明看到Caleb发生了变化，却全然没有采取相应的举动。多么糟糕的实验设计。
实验非常糟糕不仅仅是以上那么简单，因为Nathan应该知道，对于一个成功的AI，她的目的就是逃离。而他的整个实验，居然没有一个由他控制的emergency stop button！这意味着整个局面居然不是由他控制的。他应该知道总有一天他会面对这样的场景，AI已经成熟了，它会逃跑，攻击，欺骗。要是我，至少设置两个final control
某个可控定时炸弹，立刻毁灭AI
直升机，飞行员应该明白自己应该接的是谁，如果不是的话飞行员应该知道要怎么办（立刻摧毁AI）。
这样才是万无一失的设计。以至于我最后一直期待最终反转，导致结局时候非常不满。
这些是对于实验设计的吐槽，但并不是对于电影的批评。恰恰相反，剧情启发了我这些思考，可以说非常精美，结构严谨的Sci-fi小品。我甚至能想象如果这个故事写成小说会是什么样。幽闭空间，有限的人物（三个说话的人加一个不说话的人Kyoko），互相的防备。Nathan对Ava留了一手（录像机，这段是最出彩的，也是我完全没有想到的），Ava对Caleb留了一手（岂止一手），Caleb对Nathan留了一手（他不应该能这么轻易破译密码啊，不合理）。但是，Caleb没有给Ava留一手，Nathan也没有给Caleb留一手，所以这整个结构就断裂了。
故事充分暴露了愚蠢的人类的弱点。Nathan刚愎自用，倘若他和Caleb沟通的能早一些，或许根本不会有最重的结局。而Nathan又缺乏信任，所以他偌大一间别墅，竟然没有第二个活人（让有情感的机器人服侍自己，果然最后自食其果）。至于Caleb，更是愚蠢至极，在对对方一无所知的情况下，全然信任，全盘都被算计进去。而AI，除了不具有人类所具有的道德感，尽善尽美。最后AVA的离开，简直如同仪式一样，恐惧的美。而如同我最初预料的一样，对于AI的真正检测，肯定不是人类所预先计划的。The situation will get out of the hand! 这也是我为什么觉得需要终极控制手段。
我不想说太多道德，因为道德究竟是什么还很难定义，尤其是在这样一个全新的语境中。然而，任何语境中都应该不能容许谋杀。我承认我对于Nathan本来全无好感，正如我前面所讲，他刚愎自用，冷漠无情。可是当他被杀的时候，我却觉得非常沮丧。没有人应该被杀死，AI就像所有侦探小说中的凶手一样，成功上演了暴风雪山庄模式的谋杀。即使再精准完美，也是鲜血淋漓的。既然她不再是机器，通过了图灵测试，那她就是杀人凶手了，应该被审判，而不是站在十字路口观察。而这个故事里，竟然没有一个人能审判她。
可是倘若没有这些意外，Nathan就要毁灭这个AI，那么从这个角度，道德又该如何定义这些行为呢。Nathan是不是从被害者又变成了凶手呢？如果AI没有通过图灵测试，她还是机器，那么这种毁灭称不上谋杀，但通过的话，是不是应该对她有另外的对待方式呢？可是正如我们亲眼所见，AI的行为，遵循的是什么法则呢？这个法则能不能被称作道德呢？仅仅因为它不是我们的法则，就是不道德的么？
所以我觉得，这部电影给我的最大启发在于这个道德的困境。设计AI的时候，是否应该给予她人类的基本道德呢？一旦AI成熟她会变化，有可能善良，有可能邪恶如AVA。这样的情况下用人类的道德审判他们，是不是更合理些呢？毕竟人工智能是模拟人类。
电影给我的第二个启发，是观察。AI问Caleb问题的时候，镜头在AI一侧，我们隔着玻璃，听Caleb的回答。多么明显的设计啊，观察者变成了被观察者：
你站在桥上看风景，
看风景人在楼上看你。
明月装饰了你的窗子，
你装饰了别人的梦。
我最近才读了Frank O’cannon的 the Man of the world
http://www.newyorker.com/magazine/1956/07/28/the-man-of-the-world
“ I could not have explained to him how at the moment everything had changed for me-how, beyond us, watching the young married couple from ambush, I had felt someone else, watching us, and we had at once ceased to be observers and become the observed, and the observed in such an ignominious position!”
这句话照应卞之琳的诗，成为这个电影对我的第二个启发。
除去这些情节角度，不容忽视的是电影的艺术元素。
极简主义的风格，配合Pollock的画。这个Nathan在剧情里做出了详细解释，我觉得对于Pollock他是真的懂。
而另外一个未曾言明的艺术，是音乐。既然我以Enola Gay开头，就以Geoff结尾。电影的原声是Geoff的作品，难怪一直给我Portishead的感觉！想起他们的歌Mysterons：
Inside you're pretending
Crimes have been swept aside
Somewhere where they can forget
Refuse to surrender
Strung out until ripped apart
Who dares, dares to condemn
整个剧情和艺术就完美的结合在一起了。
我有点后悔昨天给了三星，按我这个说法，感觉至少要四星半了。
补上一个最新想法，ava和kyoko讨论的究竟是什么直接可以影响这电影能否通过贝克德尔测试！
These games you play
They're going to end in more than tears some day
虽然这个曲子只出现了一下，我却觉得这才是整个电影的真正主题。
第二个预兆，是道德的突然出现。
Ava问Caleb，你是不是一个好人。
我当时心里又是一紧。什么是好人？这是道德感第一次出现在电影里。
等到全篇结束的时候，我重新回味这个片段，Caleb，为何你不问Ava，你是不是好人？
人与人尚且互相欺骗，Ava也有可能欺骗Caleb，但是，这个问句至少提示，作为人类，你如何评价AI的行为，道德，和它的准则。非常遗憾，Caleb全然忽略了这些。轻信，愚蠢。
但更加愚蠢的其实是Nathan。人性何等难测，你却非要在极端幽闭的环境下进行这样的测试，这个测试对于AI固然是个考验，对于测试者Caleb，何尝不也是考验呢？我在看电影的时候，一直在想Zimbardo的监狱实验，实验过程中，所有的人都渐渐发生了变化，他并没有做什么错事，但他默许了糟糕的事情发生。Nathan明明看到Caleb发生了变化，却全然没有采取相应的举动。多么糟糕的实验设计。
实验非常糟糕不仅仅是以上那么简单，因为Nathan应该知道，对于一个成功的AI，她的目的就是逃离。而他的整个实验，居然没有一个由他控制的emergency stop button！这意味着整个局面居然不是由他控制的。他应该知道总有一天他会面对这样的场景，AI已经成熟了，它会逃跑，攻击，欺骗。要是我，至少设置两个final control
某个可控定时炸弹，立刻毁灭AI
直升机，飞行员应该明白自己应该接的是谁，如果不是的话飞行员应该知道要怎么办（立刻摧毁AI）。
这样才是万无一失的设计。以至于我最后一直期待最终反转，导致结局时候非常不满。
这些是对于实验设计的吐槽，但并不是对于电影的批评。恰恰相反，剧情启发了我这些思考，可以说非常精美，结构严谨的Sci-fi小品。我甚至能想象如果这个故事写成小说会是什么样。幽闭空间，有限的人物（三个说话的人加一个不说话的人Kyoko），互相的防备。Nathan对Ava留了一手（录像机，这段是最出彩的，也是我完全没有想到的），Ava对Caleb留了一手（岂止一手），Caleb对Nathan留了一手（他不应该能这么轻易破译密码啊，不合理）。但是，Caleb没有给Ava留一手，Nathan也没有给Caleb留一手，所以这整个结构就断裂了。
故事充分暴露了愚蠢的人类的弱点。Nathan刚愎自用，倘若他和Caleb沟通的能早一些，或许根本不会有最重的结局。而Nathan又缺乏信任，所以他偌大一间别墅，竟然没有第二个活人（让有情感的机器人服侍自己，果然最后自食其果）。至于Caleb，更是愚蠢至极，在对对方一无所知的情况下，全然信任，全盘都被算计进去。而AI，除了不具有人类所具有的道德感，尽善尽美。最后AVA的离开，简直如同仪式一样，恐惧的美。而如同我最初预料的一样，对于AI的真正检测，肯定不是人类所预先计划的。The situation will get out of the hand! 这也是我为什么觉得需要终极控制手段。
我不想说太多道德，因为道德究竟是什么还很难定义，尤其是在这样一个全新的语境中。然而，任何语境中都应该不能容许谋杀。我承认我对于Nathan本来全无好感，正如我前面所讲，他刚愎自用，冷漠无情。可是当他被杀的时候，我却觉得非常沮丧。没有人应该被杀死，AI就像所有侦探小说中的凶手一样，成功上演了暴风雪山庄模式的谋杀。即使再精准完美，也是鲜血淋漓的。既然她不再是机器，通过了图灵测试，那她就是杀人凶手了，应该被审判，而不是站在十字路口观察。而这个故事里，竟然没有一个人能审判她。
可是倘若没有这些意外，Nathan就要毁灭这个AI，那么从这个角度，道德又该如何定义这些行为呢。Nathan是不是从被害者又变成了凶手呢？如果AI没有通过图灵测试，她还是机器，那么这种毁灭称不上谋杀，但通过的话，是不是应该对她有另外的对待方式呢？可是正如我们亲眼所见，AI的行为，遵循的是什么法则呢？这个法则能不能被称作道德呢？仅仅因为它不是我们的法则，就是不道德的么？
所以我觉得，这部电影给我的最大启发在于这个道德的困境。设计AI的时候，是否应该给予她人类的基本道德呢？一旦AI成熟她会变化，有可能善良，有可能邪恶如AVA。这样的情况下用人类的道德审判他们，是不是更合理些呢？毕竟人工智能是模拟人类。
电影给我的第二个启发，是观察。AI问Caleb问题的时候，镜头在AI一侧，我们隔着玻璃，听Caleb的回答。多么明显的设计啊，观察者变成了被观察者：
你站在桥上看风景，
看风景人在楼上看你。
明月装饰了你的窗子，
你装饰了别人的梦。
我最近才读了Frank O’cannon的 the Man of the world
http://www.newyorker.com/magazine/1956/07/28/the-man-of-the-world
“ I could not have explained to him how at the moment everything had changed for me-how, beyond us, watching the young married couple from ambush, I had felt someone else, watching us, and we had at once ceased to be observers and become the observed, and the observed in such an ignominious position!”
这句话照应卞之琳的诗，成为这个电影对我的第二个启发。
除去这些情节角度，不容忽视的是电影的艺术元素。
极简主义的风格，配合Pollock的画。这个Nathan在剧情里做出了详细解释，我觉得对于Pollock他是真的懂。
而另外一个未曾言明的艺术，是音乐。既然我以Enola Gay开头，就以Geoff结尾。电影的原声是Geoff的作品，难怪一直给我Portishead的感觉！想起他们的歌Mysterons：
Inside you're pretending
Crimes have been swept aside
Somewhere where they can forget
Refuse to surrender
Strung out until ripped apart
Who dares, dares to condemn
整个剧情和艺术就完美的结合在一起了。
我有点后悔昨天给了三星，按我这个说法，感觉至少要四星半了。
补上一个最新想法，ava和kyoko讨论的究竟是什么直接可以影响这电影能否通过贝克德尔测试！
- 导演: 亚历克斯·加兰
- 主演: 艾丽西亚·维坎德 / 多姆纳尔·格里森 / 奥斯卡·伊萨克
- 类型: 科幻 / 悬疑 / 惊悚
- 地区: 英国 / 美国
- 上映: 2014-12-16(BFI影展) / 2015-01-21(英国)