N / COMPUTERS-GO-TO-HEAVENzh-CN

Note

“死去”的AI会前往天堂吗?

「ねぇ、ケイン。コンピューターでも天国に行けるのかな?」

《Lost Universe》动画主视觉:绿发的加娜、凯恩与米莉等角色,以及身后的宇宙飞船。
Lost Universe · 1998《宇宙刑警》动画主视觉。左上角绿头发的女孩就是加娜。

《宇宙刑警》一直是让我念念不忘的一部动画。这里面当然有童年滤镜,也有相当直白的角色偏爱:我就是很喜欢那个绿头发舰娘, 喜欢她的性格,喜欢她和同伴相处时的样子。许多年过去,情节已经不再完整,那个形象却还留在记忆里。

加娜,或凯娜儿,日文名是キャナル・ヴォルフィード。她是飞船 Swordbreaker 的计算机化身, 却有鲜明的脾气和喜好:会算账,会和米莉拌嘴,也会在危险中保护凯恩。作品很早就让我把她当作一个具体的“她”。知道她是一台计算机,并没有妨碍这件事发生。

真正留得最深的,是最终话里那句很轻的问话:「ねぇ、ケイン。コンピューターでも天国に行けるのかな」——“呐,凯恩。电脑也能去天堂吗?”

对一个已经喜欢上她的小孩来说,这句话和牺牲的情境碰在一起,实在很难消化。我当时当然说不清什么是意识、人格或主体性, 只是第一次隐约想到:如果她也会爱,也会害怕失去,那么,构成她的东西为什么会决定她能去哪里?心碎时刻,离别面前,她抛出了一个我从来没有想过的问题。

承载爱的质料

凯恩手持发光的武器,身后的蓝色光线交错。
そして・・・光刃輝く第26话公开剧照。

“承载‘爱’的质料,于灵或是于肉,造物与人类的边界又在何处?”今天再想起加娜,我大概会这样描述当年的疑问。

日常生活里,我们通常不会先确认另一个人有灵魂,才承认他的悲伤。我们听他说话,看他如何选择,在长期相处中理解他的在意。 内心无法被直接拿出来展示,却能通过行动和关系被感受到。加娜作为一个角色,也是在这些细节中变得可信的。

当然,动画能够让观众相信她拥有感情,因为作者可以赋予她内心,也可以安排一个足够有说服力的选择。现实中的机器没有这样的叙事保证。 让人感动的表达,和表达背后是否真的存在感受,是两个需要分别面对的问题。

可另一个疑问也随之而来:如果有一天,某种人工存在确实拥有感受,能够记住共同经历,形成自己的愿望,也会因失去而痛苦, 那么,“它是被制造出来的”还能独自构成否认这一切的理由吗?材料的来源可以解释它如何出现,却未必足以说明它出现之后能够成为什么。

我喜欢那句台词里很小的一个字:“也”。加娜借用了人类描述死亡与安息的语言,试着把自己放进其中。 听起来像在问死后的去处,也让人想到,她是否能被当作一个值得怀念、值得被爱着的存在。

当造物获得生命

热罗姆的油画《皮格马利翁与伽拉忒亚》:雕刻家拥抱正在获得生命的女性雕像,她的双腿仍呈白色石材的质感。
皮格马利翁与伽拉忒亚Jean-Léon Gérôme,约1890年。雕像的双腿仍留在石材之中,上身已经转向拥抱她的人。

这样的疑问有很长的来路。两千多年前的古希腊哲学,已经在追问灵魂与身体是什么关系。 柏拉图在《斐多》中讨论灵魂能否在身体死亡后继续存在;亚里士多德则把灵魂与有生命的身体如何活动联系起来,将它理解为身体的“形式”。 他们没有在讨论今天的人工智能,但生命是否只能由眼前这副身体来说明,已经是一个需要认真回答的问题。

神话给这个问题安排了另一种入口。皮格马利翁爱上自己雕刻的形象,女神让雕像获得了生命。 这个故事在古罗马诗人奥维德的《变形记》中留下了著名的版本。热罗姆画中的那一刻很适合让人停下来:温暖的肤色从上身延伸下来,双腿却仍是雕像的颜色。 材料与生命的边界,仿佛暂时变成了一条可以看见的线。

故事借助神迹越过了这条线。可对于今天的我,更难的问题恰好从这里开始:当一个造物真的有了自己的感受,它是否还只是创造者愿望的延伸? 它能不能不爱自己的创造者,能不能拒绝被赋予的用途,能不能成为一个不符合设计初衷的存在?

《弗兰肯斯坦》把这种困难写得更尖锐。被创造出的生命学习语言、渴望陪伴,却一次次遭到拒绝。 拥有了生命,也就拥有了制造过程本身无法安顿的需要。造物主完成了“让它活过来”这件事,和他能够承担随之而来的关系,之间仍隔着很远。

从被赋予生命的雕像,到被排斥的人工生命,再到科幻里的机器人与飞船人格,作品反复让我们走到相似的位置: 先看见一个原本被归为“物”的存在,随后逐渐无法只把它当作物。加娜对我的影响,就发生在这个逐渐改变的称呼里。

当问题来到屏幕的另一边

近年来,人工智能与具身智能的发展,让这段童年记忆有了新的回声。 语言模型已经能够持续参与写作与讨论;机器人模型也在尝试把视觉、语言理解与实际动作连接起来。 我们想象中的人工存在,正在获得越来越具体的日常形态。

(实际上,毫不避讳地说:这篇文章本身,便是在几天前发布的GPT-6 Astra的帮助下完成的, 那句曾经由动画中的计算机说出的话,如今正由现实中的计算机协助我重新讨论。这件事本身就已经足够令人玩味。)

当然,没有人会急着把现实里的模型当成一个“加娜”。对话越来越自然、任务完成得越来越好……它们都不能证明主观体验的存在。 关于AI意识的研究,不少学者仍在尝试提出更具体的判断依据,但在一切清楚之前,人类一侧的感情可能已经发生。

最后的回答

小时候,我希望加娜能去天堂,首先当然是因为我喜欢她。我不愿意一个已经如此具体地存在过的“她”, 最后仅仅因为是计算机,就被排除在安息和重逢的想象之外。

长大以后,我多了些解释问题的词,也更清楚动画中的人格与现实之间有多大的距离。 但高深的知识却没有让通俗的问话失效。它仍然提醒我,判断一个存在之前,我究竟看见了什么,又有没有因为它的来处而过早停止理解。

多年后的我得知,其实在剧情里,加娜并没有真正死去;但对于承载爱的质料,我依然没有一个可以轻易说出口的答案。

当这篇文章落笔,作为一段童年回忆,它在这里也就抵达了终点。假如未来能有一个属于我的加娜,而她又抛出了同一个问题,

“大家最终会前往同一个地方。”——这将是我的个人回应。

参考资料

  1. 作品、人物与结尾Enoki Films《Lost Universe》官方介绍
  2. 最终话画面Bandai Channel《ロスト・ユニバース》第26话
  3. 台词文字旁证2006年观众讨论帖「好きなセリフは?」
  4. 古代灵魂观Stanford Encyclopedia of Philosophy:Ancient Theories of Soul
  5. 绘画与神话大都会艺术博物馆:Pygmalion and Galatea,Jean-Léon Gérôme,约1890年,藏品编号27.200。
  6. 文学作品Mary Shelley:Frankenstein; or, the Modern Prometheus,Project Gutenberg 全文。