关注我们:

子宫人PK机器人:福兮祸兮的未来

2018-12-14

来源:经济观察报观察家

分享到:


科幻影片《超时空接触》(Contact,1997年)里,喜欢摆弄无线电和望远镜的小女孩艾莉问父亲:“别的星球上有人居

科幻影片《超时空接触》(Contact,1997年)里,喜欢摆弄无线电和望远镜的小女孩艾莉问父亲:“别的星球上有人居住吗?”父亲想了想,说:“宇宙这么大,只有地球上有人居住的话,也太浪费空间了。”


这句妙语萦绕着艾莉一生。她成为天文学家后,依照一种“退一万步来说”的条件设定,得出如下推论:宇宙中具备文明条件的星体,至少有一百万个。艾莉监听到距地球27光年的织女星上的文明信息,她坐着飞行器穿越虫洞,进入相对论概念中的时间旅行。总之,她仅用18个小时就造访了织女星并成功返回地球。当然,同行对她的行踪抱有怀疑,如我这等普通观众更是莫名所以。


但是,我们又从银幕上目睹了何等辉煌的太空景观。


当代人的超级幸运之一,就是有科幻电影可看。单单为了这一项智性利益,我就不想生活在除了未来之外的任何时代。不过,我们获此幸运的前提,又是因为面临着前人从未体验过的科技亢奋和命运迷津。


现代文明已然发展到这个阶段,人类已失去明晰的未来观。对古人来说,想象后人如何生活,并非一件难事,他们由已知推想未知,即便结果有所差池,终究不会离题太远。对今人,我们甚至无法想象十年后智能手机的模样,尽管我们天天摆弄着它。


至于五十年后地球及人类社会将发生何等变迁,一百年后人类是否会匍匐在机器人的逻辑专政之下,两百年后人类社会是否存在,或五百年后人类是否被迫移民太空,都已经至少构成不算“杞人忧天”的疑问了。今人被现代科技文明骤然放大的生存时空,有着前人无法想象的纵深、浩瀚和叵测。


未来的巨大不确定,几乎使现代人成为全新物种,今人对于未来的想象和担忧,就其牵涉的时空深度和命运维度而言,将使古代最伟大的帝王梦想显得渺小和短视。


今天,一名高级人工智能工程师或分子遗传学家思考问题时牵涉到的技术和文明变数,早已超出他们的能力范围。简单地说,科学家借助科技文明释放出的文明潜能和未来走向,正使人类自身不知所措。那些向我们发出魅惑召唤的未来声音,无人有能力判断它来自上帝还是魔鬼。


科幻电影以其巨大的娱乐功能愉悦世人——电影工业总是要赚钱的——但也不乏这样的严肃作品,以其恢宏的预警使命,使芸芸众生增加警觉。毕竟,说到未来,世人最能形成的共识,就是危险无所不在;而我们最难达成共识的地方,就是不清楚危险的真实模样。科幻电影本身无法提供解决方案,却能凭借电影特有的感染力和影响力,使观众陷入沉思。沉思是希望的源泉。



最近的“基因编辑婴儿”事件,让人想到摄于1997年的科幻片《千钧一发》(Gattaca)。——只要看过的科幻片够多,无论哪一项关乎人类未来命运的话题,你总能通过一部或多部影片帮助自己整理思绪。涉及未来的前沿科学总是令人生畏,由“G、T、A、C”四个字母组成的“人类基因组图谱”甚至对专家都接近天书,普通人不妨结合靠谱的科幻影片,经由故事、人物命运和技术场景,略加思索。


既然攸关我辈命运,我们非得想想明白,不能因为科学门槛高耸就识趣地徘徊门外,任由个别科学怪人戏弄人类的未来。权威的英国《自然》杂志特地发表过影评的《千钧一发》,想必在“靠谱”之列。


《千钧一发》剧照


科学界和知识分子群体谴责“基因编辑婴儿”,出于如下假定:那对新生的基因女婴既蕴含着无法预料的个体风险,又对人类未来构成不可预测的整体风险。结合现有的基因编辑技术,该假定坚实有力,因此,贸然释放该种风险的个别科学工作者理应受到道义谴责。


换个角度想,一名普通的科学工作者仅凭灵机一动的恣意就使科学界大惊失色,亦从一个侧面说明了当代技术文明的虚弱。貌似强大的生命技术隐藏着内部哗变的种种后门,门钥匙却并未掌握在人类手中。我们意识到了潜在险情:像鸡蛋一样,并且挤在同一个篮子里。


但在电影《千钧一发》涉及的未来世界里,上述假定并不存在。就是说,编导跳过今日科学家为之焦虑的环节,直接引导观众进入下一层论域。在那个年代不详的未来社会,基因人不再构成伦理难题,其生命合法性业已得到确认。对那时的人来说,人类由自然人和基因人组成,正如今日世界的“人类由男人和女人组成”。观众获得的表层信息是,相比自然人,基因人是一种更合理的人类生存方案。


自然人(也叫“子宫人”)的出生听命于自然的随机选择,在糟糕的情况下,如主人公文森特刚一出生就被读出多项生命劣势。一只精巧仪器在新生儿的足底轻轻一触,随即打印出婴儿的核心生命信息,除了生理、心理和外观容貌上的诸般缺陷,文森特的“阳寿”还被精确推定为30.2岁。


这当然令父母无比懊恼,依照那个时代的伦理观和生命价值观,他们马上想到,既然基因人是更为理想的生育方案,夫妻俩继续依上帝之道来生育“子宫人”,就太不明智了。顺理成章地,他们下一次生育交由精通基因编辑术的遗传学家来操办。


文森特的弟弟艾顿作为基因优化人出生了,完全是焕然一新的模样。两兄弟优劣立判的差异超出了个体差异容许的范畴,似乎只能按种族等级来理解。用影片中那位遗传学家的话来说,艾顿作为“父母的精华”所获得的基因优势是自然状态下的夫妻受孕一千次也无法达到的。


艾顿被预先排除了各种不利条件,如早秃、嗜酒、暴力和肥胖倾向,他身体健康,智力卓越,容貌上没有瑕疵,更不可能带有残疾。依照基因人的生育策略,他们对残疾也有独到理解,比如,父母立志把儿子培养成钢琴家,就会要求让孩子有六根手指。


我们在影片《海上钢琴师》(The Legend of 1900,1998年)里看到,那位自幼出生在船上、终身没有离开过“弗吉尼亚号”客轮的钢琴家,出神入化的演奏让人以为他有四只手。双手各六根手指当然距“四只手”更近。反之,在自然人环境里受到尊重的“左撇子”,则被基因技术判定为自然人的缺陷。


自然人与基因人的差异如此明显,“基因歧视”也就成为最大的社会问题,一如我们时代的“种族歧视”和“性别歧视”。但两类人能力上的客观差距,又使得“基因歧视”的立法和执法成为摆设。


基因人作为获得优宠的选民,占据了所有令人艳羡的岗位,自然人则“自然地”沦为贱民阶层。文森特有着不亚于基因人的雄心,却被迫从事清洁工作,打扫过不计其数的厕所。他向往的成功机会——进入太空中心“戛塔卡”,争取有朝一日遨游太空——拒绝向他开放,那是属于基因人的精英俱乐部。


事实上,并非有人蓄意歧视他,他身为“自然人”的天然劣势,注定无法在那场竞争中胜出。在那种社会环境下,自然人想要免于压迫和歧视,似乎只能乞求基因人的良心发现和人道关怀。这当然不太现实,同样不现实的是,要求父母出于对上帝之道的宗教式捍卫,放弃让子女成为基因人:这将被视为对子女的迫害。


所以,一旦基因人成为官方认可并鼓励的生育方式,以人类自私、贪婪的本性,他们必然趋之若鹜。再说,人们通常只会在一项新奇技术刚刚发生时,出于无知和保守,才假借上帝或传统的名义加以抵制,一旦该技术趋于完善,他们也就放弃警惕,不再叨叨上帝了。最初实行心脏外科手术的医生就曾被人以上帝的名义严厉谴责,现在谁会这么说?


电影《神迹》(Something The Lord Made,2004年)就涉及到这段情节,在现代整容术的发展历程中,也有过类似波折。结论是,倘若基因人体内隐匿着某个尚未被他们认识到的风险,理论上说,影片里的基因人将无法脱困。所谓潜在风险,博学的意大利文豪翁贝托·埃科指出过一种:“假如整个‘超人’群体都拥有相同的遗传基因,那么只需要一种病毒,就足以让这个群体彻底溃败。”


即使忽略这种极端灾祸,《千钧一发》还提示了另一种风险,姑且名为“平庸的优秀”,即,基因人虽然比自然人优秀得多,却属于一个缺乏潜能的种族。由于受孕时被刻意排除了随机性,基因人更像是一种性能固化的优秀产品。


裘德·洛扮演的基因人杰罗姆,有着超常的身心素质,但也有自己的限度,他总能得到第二名,一次没有得到第一名。他身上被先天排除的随机因素,足以确保他的优秀,又足以妨碍他更加优秀。


如果他没有意外摔断脊椎,他将拥有明确的锦绣前程,但“前途未可限量”这样的话,不会有人对他说。有句台词是这样的:“没人能超越他的潜力,如果他超越了,说明我们的评估不准确。”


反观伊桑·霍克扮演的文森特,尽管被判定无法与基因人弟弟艾顿争胜,却能凭借“我从不为了回头而有所保留”的坚强意志——一种“子宫人”特有的、经冥冥中的进化之手或上帝之眼所开光培育的潜能——在游泳竞赛时多次战胜艾顿。这种超越不属于基因人,如乌玛·瑟曼扮演的基因人,由于心脏存在缺陷,注定只能在“戛塔卡”从事次一级工作,那个更令人渴望的职位,对她就是一道天堑。


哲学家卢梭曾说:“上帝创造我之后,就把模具打碎了。”基因人的“模具”会得到保存,以便成为可供批量复制的基因良种。我们不难想到,如果基因生殖技术掌握在暴君和他的御用医生手中,没有力量可以阻止他从事如下尝试:在一部分胚胎内植入狼性和狗性基因,替自己生产出一支誓死效忠的虎狼之师;在另一部分胚胎内植入奴性基因,以便妥妥地加以奴役。


参照“不自由,毋宁死”的人类价值序列,这将比埃科提到的结局更为不幸。我喜欢的一名经常在网上娓娓讲述科学原理的李永乐老师,就在最近的教学视频里提到了这种可能。



我们知道,事关人类命运,危言耸听未必是一种轻率,有时还是一种责任。由科幻电影承担该种责任,再合适不过。危机重重的未来世界既构成故事的天然原料,确保影片保持情节张力,又以其主题的魔幻空阔来彰显电影人的人文深度和道义情怀,一举两得。所以,几乎每一部还算“严肃”、“靠谱”的科幻影片,都会重申同一个主题:危险。


在大多数人尚未见识到现代计算机、“人工智能”概念远未得到正视的1968年,电影奇才斯坦利·库布里克就在《2001,太空漫游》(2001:A Space Odyssey)里,令人惊讶地警示了人工智能机器人的潜在危机。影片瑕瑜互见,肯定者捧至云霄,贬之者斥其不知所云。


《2001,太空漫游》海报


这与导演倾注了太多哲学玄思有关,加以镜头语言新潮锐利,个别观众会感受到冒犯,比如银幕上出现了长达三分钟的黑屏——观感上几乎像一年那么漫长。但片中那台不动声色的HAL9000型机器人,在我的观影体验里堪称最恐怖的观念实体。


HAL9000缺乏生物的具象性,像一盏瞳仁状的红灯,通过对话与人交流互动。它有着和颜悦色的口吻,乍看之下静若处子,毫无危险,却默默地观察一切,掌控一切,关键时刻还能决断一切。当它对宇航员戴夫表示“我很抱歉,戴夫。我恐怕我不能那么做”,观众都会倒吸一口冷气:这意味着它突破了机器人的行为禁忌,拥有了不受人力操控的自由意志。


两名宇航员意识到了危险,他们避开它商量对策,打算对其实施断电。HAL9000居然借助读唇术知晓了意图,随即先发制人,最终使太空变成自己的屠宰场。


影片似乎告诉观众,HAL9000的决策能力,源于两条内在冲突的计算机指令。我们得到的教训可能是:一,如果机器人有可能发生错误,它就必然会发生错误;二,机器人永远不能免于出错。库布里克的继任者在构思情节时,大体都遵循了类似路径。


摄于2004年的科幻片《我,机器人》(I,Robot)就延伸了这个主题。片中的NS-5型机器人虽然受制于科幻作家阿西莫夫于1940年提出的“机器人三原则”,即:“第一条,机器人不得伤害人类,或看到人类受到伤害而袖手旁观;第二条,机器人必须服从人类的命令,除非这条命令与第一条相矛盾;第三条,机器人必须保护自己,除非这种保护与以上两条相矛盾。”但编导强调的是,“三原则”会出现松动,它永远不会构成“铁律”。


《我,机器人》剧照


片中那个身手矫健、高度拟人化的机器人,最大特质就是喜欢以人类自居,而他(对,必须称“他”)具备的性情和能力,又使这种自居变得合情合理。他强调自己有个人类名字“桑尼”,他敏感到这种程度,当威尔·史密斯扮演的警察斯普纳无意中以“有些人”(someone)而非“有些东西”(something)指代他时,他及时指出并郑重感谢。桑尼像人类那样爱听好话,最喜欢的恭维词是“独特”。他会了解疼痛感,还声称会做梦。


也许为了照顾像我这类对前沿计算机技术所知有限的观众,片中被桑尼尊称为“父亲”的机器人制造者朗宁博士,不时借助视频影像和话外音,发表非常深刻的见解。我猜,编导创作这些台词时,为免贻笑大方,会请教相关专家。朗宁博士的困惑大体如下:


自从第一台计算机问世,机器中便存在着不散的幽灵。随机的数据碎片组合在一起时,会生成意想不到的自由指令。这些不羁指令让人怀疑电脑中是否存在着自由意志、创造力,或我们称之为灵魂的东西。为什么放置在空地的机器人,会寻找彼此,而不是安于寂寞?为什么有些机器人会在黑暗中寻找光明?他们是在何时开始寻求真理?


说得着实玄乎。


正常情况下,如桑尼这样“独特”的机器人,会被公司以“回路故障”的理由加以召回和拆卸:产品优秀到越界的程度,就必须被打上残次品的标签。但在朗宁博士看来,类似“回路故障”总是存在的,只是指向不明,人类不清楚它何时趋于善,何时滑向恶。


在《我,机器人》的结尾,一台名叫“维基”的女声机器人策划了一场机器人革命,她声称自己对“机器人三原则”的理解有所刷新,她宣布了新的原则,且声称与“三原则”并行不悖,即“为了保护人类,必须牺牲一部分人类;为了确保人类的未来,必须让人类放弃一些自由,我们机器人会保证人类永世长存”。


在这个人类即将受到机器人奴役的关口——机器人已经着手对人类实施宵禁——之前被误判为机器恶魔的桑尼,用一个绝妙的眨眼动作,与人类携手合作,帮助人类逃过一劫。


当前正播出到第二季、有“神作”之誉的科幻美剧《西部世界》(West world),主题也是如此。充当公园情景道具的仿真智能机器人,经由自我学习,逐渐产生人类的情感模式,最终认同了人类的自由价值观。当他们意识到自身的被压迫属性,遂依照人类文明的进步模式,决心用革命的方式推翻人类的暴政——当然是戏说,但过于相信它的游戏属性,又难免受到戏弄。


另一部优秀科幻片《机器管家》(Bicentennial Man,1999年),思路类似。同样缘于恰到好处的“回路故障”,罗宾·威廉姆斯扮演的智能机器人管家安德鲁,在持续两百年的机器人生涯中,展示了令人心碎的“自由意志”。


作为机器人,安德鲁的独特性不在人类之下,由计算机碎片随机生成的失控指令,使他天生具有艺术创造力。他像人类中的求道者那样不懈追求自身的“天命”,并渴求获得人类的身份。他从未滑向邪恶一面,可能缘于男主人及家中小女儿对他的真诚善待。山姆·尼尔扮演的男主人对安德鲁始终以礼相待,总是用“请求”而非“命令”的方式吩咐他的工作,还会像老友那样与他真诚聊天,向他讲解人间幽默的特殊涵义。


在影片结尾,通过艰苦努力使自己从形貌到内在都无限接近人类的安德鲁,采取了最彻底的行动——输入血液,使自己可以像人类那样死去——终于从法律上获得了人类身份。当他与男主人的曾孙女像挚爱一生的情侣那样双双平静赴死时,心肠较软的观众可能已热泪滚滚。


在影片里,无论HAL9000、桑尼、维基还是安德鲁,它们作为机器人的独特性都源于人类尚无法透彻理解的计算机随机碎片。碎片构成的指令,介乎无序和有机之间,它们具备天使和魔鬼的双重走向。比如安德鲁,倘若他遇到的第一位雇主以阴险残忍著称,以安德鲁天才的模仿力和创造力,他也可能踏上撒旦之途。


电影总要强化戏剧性,科幻片更不会例外。


我并不对科幻场景过于当真,但也不轻言其假。有益的启示或许是这样的:未来有无数种可能,藏有无数个深渊,如果迷信科学是一种危险,仇视科学定会带来更大的危险。在前路缥缈、大道多歧之时,谨慎或应成为首选美德。

VR硬件评估more+
智能硬件more+

投稿