上海书展·新书｜《我这样的机器》：机器人世界里人的困境

在今年上海书展期间，英国作家伊恩麦克尤恩的科幻人工智能题材小说《我这样的机器》由上海译文出版社首推简体中文版。

“机器人”这个问题在麦克尤恩的脑海里可谓萦绕已久。两年多以前他来中国，这一路随身带着的书稿就是《我这样的机器》。他和译者黄昱宁说，初稿已经写完了，但要放一放，在来中国的路上想一想，等回到英国再修改一遍。在发表演讲或接受采访时，麦克尤恩也反复提到这部书稿，甚至说到《赎罪》刚开始的设定也是有机器人的。

8月16日，作家小白，作家黄昱宁与上海纽约大学教授、亚马逊上海人工智能研究院院长张峥做客上海朵云书院旗舰店，为读者献上一场文科生与理科生有关机器人，有关《我这样的机器》，有关人类的对话。

活动现场小说设想了一种道德至上的机器人在小说里，32岁的伦敦人查理爱上了楼上的邻居米兰达。查理不知道如何向米兰达表达感情，用继承的遗产买了一款新型人形机器人“亚当”，并希望这个机器人能成为某种联结象征。查理把“亚当”领回家后，可以对还是出厂设置的“亚当”进行各种个性化设置。查理完成了一半，另一半让米兰达勾选。两人就像同时收养了一个宠物，并顺理成章地进入了下一感情阶段。

张峥非常喜欢“出厂设置”这段。在他看来，机器人的设置与人的进化是很吻合的。“每个人都接受两份DNA，父亲的一个，母亲的一个。亚当出厂之后被查理设置，又被米兰达设置，这像是一个比喻，把一部分父母的DNA注入进去。我觉得麦克尤恩是一个非常热爱人类的人，他对这个本质抓得非常准确。某种意义上是一种致敬，非常有仪式感。”

小白称，牛津哲学家尼克·博斯特罗姆（Nick Bostrom）专门研究机器人力学。在一本《超级智能》里，尼克专门有两章谈价值观植入、价值观加载的问题。“一个机器人造好了，它的学习能力比你强多了。你让它随便学习，可能发展出终结者那样的机器，人类的生存风险就出现了。所以你必须在学习能力之外也给机器人加载价值观。”

怎么加载呢？在这部小说里，麦克尤恩设想了一种道德至上的智能机器。比如亚当帮查理轻松操盘做投资，但却没有为查理赚回世界上所有的钱，因为它在决策中考虑了过量财富显然会带来身心两方面的危险，尤其是道德损害。

“到最后，查理、米兰达给亚当输入的东西和亚当最初被输入的价值观有了冲突。亚当既不听米兰达的，也不听查理的，因为它有更大的伦理目标和价值观，它最后做出来的事跟两个用户的意愿都不一样。”小白说，小说最后造成冲突的点在这里。

麦克尤恩小说的背景设定，融合了过去、现实与未来在时间上，《我这样的机器》故事发生在1982年，在那个平行世界的英国伦敦：彼时人工智能研究已经远远超过了我们当前的发展水平。在撒切尔夫人的领导下，英国在马岛战争中落败，举国哗然之际托尼·本恩当选为英国首相。“人工智能之父”图灵也没有自杀，麦克尤恩给了图灵他应得的生命，而非受到审判、监禁、自杀。图灵得享高寿，活在世人的尊崇之中，他的作品创造了技术奇迹……

“1982年是一个过去的年代。他把一个在技术上应该发生在未来的故事设定在过去，所以我们打开这本故事会觉得非常奇怪，因为它里面有些东西你是熟悉的，是属于过去的，但是关于人工智能这方面又是完全超前的，不仅超那个时代的前，也超我们现在的前。”黄昱宁称，这是一个“很奇怪”的设定。

小白表示，他在谷歌图书词频上检索“Robot”（机器人）和“AI”（人工智能），看到这两个词在1980年代初异军突起，在整个1980年代形成一个高峰，到1990年代反而渐渐下落。最令人难忘的机器人电影就是此刻拍摄的——1984年上映的《终结者》。

再反过来想，麦克尤恩在1980年代刚进入伦敦生活，出版了几本小说，开始创作剧本，与同道友好交往。于是，“智能仿真机器人”这样的热门话题不可避免地出现在他的日常生活中。

小白说，或许也正因为这样，麦克尤恩把《我这样的机器》的时代背景设定在了1980年代——机器人、人工智能在他脑子里最初出现的年代。“我觉得这部小说带有他对自己的反思，对人类社会的反思，通过一个机器人的故事影射他的这一段看法。从这个角度来看，把它理解成某种作家对自己往昔记忆的追溯、某种秘密的‘自传体’，也不为过。”

小说最想表达的，还是人的困境在小白看来，《我这样的机器》有两个特别精彩的地方，一是米兰达跟亚当上床，给查理戴了绿帽，二是当查理试图关掉亚当的电源，亚当阻止了他，而且把他的腕骨捏碎了。

“关掉电源”这一点引起了大家有关机器人自我意识的激烈探讨。在小说里，那一批机器人在自我学习后有十一位设法取消了开关，也有机器人选择了自杀。

黄昱宁想，无论是“跟人对着干，不让人关闭我”，还是“在人不想关闭我的时候，我自己就关闭了自己”，其实都是机器人自我意识的表现。在小说的最后，麦克尤恩以图灵之口说：“它们（指机器人）不理解我们，因为我们不理解自己。它们的学习程序无法处理我们，如果我们自己都不理解自己的大脑，我们怎么能设计它们的大脑？还指望它们能跟我们一起幸福呢？”

因此说到底，麦克尤恩在这部小说里最关心的还是人本身，最想表达的还是人的困境。

小白深以为然：“麦克尤恩这部小说确实是写人的事。只是说在写法上他把机器人这个条件放进了人类社会，放进了1980年代，但这批机器人身上发生的事情，都是我们人类自己的事情。出厂设定代表了人类所有最美好的期望，可就算是人类自己，也没有一个能做到。因为那些规则条款，根本经不起社会人群的人际摩擦。就像麦克尤恩小说中几乎所有人物一样，天性良善，却让一些细微的摩擦冲突愈演愈烈，直至不可收拾。小说中那些亚当夏娃们再一次证明了麦克尤恩的观点。它们很快就陷入意识崩溃，无法在人世生存，一个接一个自杀了。”

张峥也特别提到麦克尤恩在书里借图灵之口说的另一段话：“我们创造了一种有智能、有自我意识的机器，并将其推入我们这个不完美的世界。这种智能总体上是根据理性的原则来设计的，对他人温和友善，所以很快就会置身于纷至沓来的矛盾之中。我们自己与矛盾相伴，那清单长得都列不完。无数人死于我们已经知道如何治疗的疾病。无数人在物资充足的地方过着贫穷的生活。我们知道这是唯一的家园，却日复一日破坏着生物圈。我们知道核武器的结果是什么，却以核武器相互威胁。我们爱着生命，却听凭物种大规模灭绝。如此种种，还有种族屠杀、折磨、奴役、家庭凶杀、虐待儿童、校园枪击、强奸以及每日发生的无数罪行。我们生活中充满着这样的折磨，却毫不妨碍我们找到幸福，甚至爱。人造的心智可没有这么坚强……”

“《我这样的机器》好的地方在于它没有给你答案。假如我们把这本书看作《圣经》或者某一种指南，我觉得它是对英国文明的祭奠，立一块碑。”张峥如是说。

(本文来自澎湃新闻，更多原创资讯请下载“澎湃新闻”APP)