财新传媒
位置:博客 > 陈剑 > 机器和人,谁更危险?-《超验》影评

机器和人,谁更危险?-《超验》影评

在回国的航班上,看了一部科幻片《超验/Transcendence》,浮想联翩。

 

故事结构并不复杂:Johnny Depp扮演的科学家Will Casper,专注于开发人工智能,他相信人工智能能够极大地提高科技,改变社会,治理环境,有这样一个God有什么不好呢?但一个反人工智能组织RIFT则认为这个技术会让人类成为机器的奴隶,于是策划了对他的行刺。杀手虽然没能一枪要了他的命,但是沾染了放射性原料的子弹进入了他的血液,使他只剩下四五周的生命。他的太太,为了保存他的意识,把他的思维、记忆都上传到了一台电脑上。几周之后,Will去世了,但是他的精神永存了下来,而且被上传到了互联网上。

 RIFT并没有放弃对Will的追杀,于是Will和太太,逃到了一个偏僻小镇,靠着在高频交易中赚来的钱(这个人工智能的梗好老套),组建了独立的太阳能电网,数据中心,超级电脑,各种实验室。在人工智能的帮助下,Will很快完成了纳米技术的突破,可以修复人体组织、器官,使盲人重见光明,使瘸子下地行走,但是还不止于此,他把自己的意识复制到了这些人身上,使他们成为他的耳目和手足,这种人类似人工智能和人的合体,被称为混合人(Hybrid)。

 美国政府终于意识到Will的危险,于是和RIFT结盟,绑架了一个混合人,通过反向工程开发出病毒,但是需要有得到Will信任的人上传这种病毒,而Will的太太自然成为不二人选。与Will俞行俞远的她,同意担任这个木马计的主角,而最终的结果也是Will和她都被病毒毁灭了。

 这类机器人造反,人工智能反噬的情节在科幻片中层出不穷,《刀锋战士/Blade Runner》,《终结者》、《黑客帝国》、《我,机器人》中都有类似的故事。但是本片中的Will却有所不同,他最初是人类,也有人的善恶观念。在影片中,他并没有伤害任何人,反而治愈了不少人,甚至他控制他人,开发纳米技术的初衷也是为了治愈这个世界。但是为什么还是被视为威胁呢?

 很简单,他如果想作恶,没有人能够阻止他。

 这使人不禁想起在《黑客帝国》第二集中的一个场景:Neo初到Zion,半夜醒来到阳台上乘凉,被长老叫去参观地下工程:庞大的机器转化地热,给这个人类最后的堡垒提供着各种动力。他不禁感到困惑,人类不是在和机器做着殊死搏斗吗?为何在家园里依然依靠着机器。长老说:“这些机器和地上的机器不一样,不需要的时候,我们可以关掉它们。”

 其实,机器也罢,人也罢,都会犯错误。能力越大的机器(比如《终结者》里的天网),或者权力越大的人(这类例子太多了),犯错误带来的灾难就越大。人类几千年的文明成就,并不在于建造了金字塔、万里长城、登月、互联网,而是把权力关进了笼子,这样在我们不需要的时候,我们也可以关掉它们。

 机器也罢,人也罢,如果力量大到没有笼子能够装下,那才是真正的危险。

推荐 3