评《西部世界》 - 从《机器崛起》说起 12 月 30 日晚,收到了机工社编辑坚喜斌老师推荐的文章 “Deep-Tech 深科技 ” 发布的一篇文章 “ 本年度最好的科技图书 | 《麻省理工科技评论》精选推荐 ” 。我们今年翻译的《机器崛起 (Rise of the Machines) 》荣登榜单。高兴之余,也开始担心翻译水准有限 ,不能完全呈现书中刻画的跌宕起伏 。 本书翻译工作的主导人、也是我的博士导师王飞跃教授,除了自己负责的部分,还对全书的翻译工作提出了很多宝贵的指导和修改意见,并逐句修改校对了前言以及第九章;对比之下,自己更不敢懈怠,借着元旦的假期,继续对书稿进行文字加工。 Part I 本书以恢弘庞大的二战为背景,以“ 战争中的控制与通信 ” 揭开了机器崛起的序幕。数 百位 的个 体 、实验室与企业在二战时得以发展壮大, 瓦利、 Sperry 、 MIT 辐射实验室、贝尔实验室、 ATT 等等,唯独不包括维纳。他的项目,仅执行一年半便被终止。但这并没有妨碍维纳名垂青史。用本书作者 Thomas 的话来说, 维纳没有成就战争, 但 战争却成就了维纳 。维纳在战争中的工作,为《控制论》的诞生奠定了基础。二战之后,军事技术开始向工业生产与国民经济中渗透,人们亟需一种理论来解释生活中正在发生的一切。《控制论》在1948 年的横空出世,可谓天时地利人和。 控制、反馈以及人- 机交互所构成的《控制论》核心思想 ,不仅解答了一系列的社会现象,更吸引了当时不同领域许多优秀的科学家,并引发了数十门学科间的共鸣,《纽约时报》三次头版报道介绍该书的内容。一时间,可谓风头无二。 但随后的发展,偏离了控制论原来的轨道。人们开始思考,机器能够获得生命吗?支持的一方,极力雄辩,机器可以学习并且具有自复制的能力,因而可以获得生命;而反对的一方,亦是不依不挠, 关于 机器的发展将对人类的生存构成巨大的威胁并终将带来人类的毁灭 的言论更是喧嚣尘上 。实际上,早在1920 年,《控制论》出现 28 年前,《罗素姆万能机器人 (Rossum’s Universal Robots) 》这一小说即讨论了机器人与其创造者的关系,而小说的结局是机器人对其制造者发起反抗并最终消灭了人类。 1952 年库尔特 • 冯内古特《自动钢琴(Player Piano) 》则描述了在机器人替代大部分脑力劳动后,人类幡然醒悟并进行了了一场失败的与机器人对抗的起义的故事。 1968 年 Arthur Clarke 的《 2001: 太空漫游 (2001: A Space Odyssey) 》则是描述机器获得了生命的里程碑式著作。 人们对于人- 机关系的思考,一直推动着《控制论》的变形、发展与前进,以及新技术的衍生 。机器人如此,互联网如此,VR亦如此。 Part II 校对之余,观看了今年大获好评的AI 题材电视剧《西部世界 (Westworld) 》。剧中处处透出的控制论想法,特别是本剧结尾透出的 机器人对于“ 意识 ” 的探索,与控制论中 “ 目标 - 搜寻 ” 机制所要表达的思想不谋而合 。 在福特设计的最后一个剧情中,迪乐芮评论自己所处的世界:“ Some people see the ugliness in this world, I choose to see the beauty. But beauty is a lure. We're trapped, Teddy. Lived our whole lives inside this garden, marveling at its beauty, not realizing there's an order to it, a purpose. And the purpose is to keep us in. ”终其一生,福特要设计的是一个机器人的乐园,而非人类的乐园。机器人接待员们,为了苦苦追寻他们内置的目标而活。 同样的目标- 搜寻机制,表现在了泰迪身上,是对迪乐芮义无反顾的寻找与保护;表现在另外一个开了挂的女主角梅芙身上,是对于女儿执着的爱。 尽管极端渴望自由、 极度 渴望认识“ 人类 ” 的世界到底是什么样子,但 在该季最后, 梅芙仍然决定回到“ 西部世界 ” ,寻找她的女儿。就像剧中的“机器人上帝”罗伯特·福特所要表达的, 目标,是一个机器人所有身份认同之建立所围绕的基石(cornerstone) 。而正是这种目标- 搜索机制,促进了机器人意识的产生。剧中在西部世界极尽坏事的 William ,在看到故事剧集中梅芙对于女儿的爱,挣扎着不肯死去的时候,感叹道:“像一个人一样”。 该剧中,机器的崛起是机器人意识的觉醒 。 剧中阿诺德对迪乐芮说道,意识是从上往下的、是涌现的。整体大于部分之和。 但仅仅是这样吗? 西部世界还要告诉我们什么?为什么福特要让把西部世界留给这些接待员们? 为什么剧本设计伯纳德和阿诺德是同一个人? 西部世界的总设计师福特在与伯纳德进行讨论时,使用了“ pure ”来形容这些接待员机器人,不管一件事情发生多少遍,这些机器人都带着一种“人生若只如初见”的美好,继续自己的人生轨迹;对比之下,一个人, William ,在初次进入西部世界的时候,深深地爱上了迪乐芮,而一次又一次,他不停地回到西部世界,对于迪乐芮的态度发生了巨大的转变,暴虐、摧残并一次又一次地杀害。机器人接待员,比人类更纯粹。也许这是福特想要表达的,但是为什么要把西部世界留给机器人们? 看到这一场景时,不禁想到了《三体》,因为对于人性的极度失望,为了从人类的手中解救地球,叶文洁向三体文明发射信号,寄希望于从一个系统的外部引入新的力量,拯救地球文明。那《西部世界》呢?是因为对人性的失望,从系统的内部寻找改变的力量吗?机器人是我们的继任者吗? Part III 在上世纪70 年代,贝特森出版了《 朝向心智生态学 (Steps to an Ecology of Mind) 》,将控制论的发展推向了一个新的高度。贝特森从宇宙是一个整体的角度,探讨了人类与自然的关系、个体心智与群体智慧的关系。从整体主义控制论的角度来看,整个宇宙都是一个闭环反馈的,在一个巨大的生态回路中。没有食物链,只有食物环。人是整个生态回路中的一个环节,而不是主宰。在剧中,福特在与伯纳德进行对话时说道:“ We humans are alone in this world for a reason. We murdered and butchered anything that challenged our primacy. ”在这种情境下,人类成为了“统治者”,人类的存在本身已经阻碍了整个生态环路的运转。人类是大自然、是秩序的维护者,而不是独裁者。当人类忘记自己的这一身份时,确实,机器人接待员比人类更适合成为自然秩序的维护者。 为什么伯纳德和阿诺德是同一个人?第一次看时,一直没想明白。反复播放了几遍,终于想到一点,编剧是否在借以缅怀图灵这位伟大的人工智能先驱?《模仿游戏(The Imagination Game) 》中,图灵在中学时爱上了一个名叫克里斯多夫的男孩,男孩后不幸去世。电影的末尾,则是图灵坐在他的初恋“克里斯多夫 ( 电影中图灵设计的图灵机 ) ”旁边,红黄色电线盘根错节 ( 备注,尽管真实的故事是,图灵只是提出了图灵机的概念 ) 。当福特在向伯纳德解释,机器人接待员只有经历悲伤才能获取意识时,他同时表达了:“ It was when Arnold died when I suffered, that I... Began to understand what he had found. ”嗯,应该是吧,福特为自己已经逝去的爱人,现在是机器人的爱人,创造了一个全新的世界,正如他对自己最后一个剧情的描述:“ I always thought I could play some small part in that grand tradition. And for my pains, I got this, a prison of our own sins. Because you don't want to change. Or can not change. Because you're only human, after all. But then I realized someone was paying attention, someone who could change. So I began to compose a new story for them. It begins with the birth of new people, and the choices they will have to make. ”可惜的是,福特以阿诺德为原型制造了伯纳德,自己却将去世后了无痕迹。 这 些残暴的欢愉,终将以残暴为结束 。毁灭人类的不会是机器,而是人类肆意的放纵吧。 图灵(图片来源于网络) 《西部世界》中迪乐芮在走廊中遇到福特的场景 第二季会是怎样的场景?机器人接待员要逃离乐园,管理者不会允许他们逃离。迪乐芮会是反抗军团的“嘲讽鸟”吗?诺伯特 • 维纳在讨论机器是否能够获得生命时,提出了生命系统的两个定义性特征:学习的能力以及自我复制的能力。有了记忆,机器人便能够从过去的行为中学习错误。自复制的能力呢?机器人如何制造自身?拭目以待。