环球观点：科幻片预言ChatGPT道德困境

• 2023-02-13 10:09:45 来源：羊城晚报

羊城晚报记者李丽

(资料图片)

《流浪地球》中的MOSS

《流浪地球2》中，图恒宇父女在数字世界中重逢

《她》中，人类与无实体的人工智能相恋

人工智能对话聊天机器人ChatGPT持续在社交媒体走红，更引发互联网公司新一轮竞争。巨大商机之外，ChatGPT所引发的道德困境也让人们争论不休。

巧合的是，仍在热映的春节档电影《流浪地球2》中，也有一个功能类似、甚至超越ChatGPT的重要“主角”——智能量子计算机MOSS。在两部《流浪地球》中，正是MOSS造成了无数巨大的灾难，同时也促使人类在一次次危机中走向团结。除了MOSS，还有更多科幻电影基于对人性的理解和对未来的想象，对ChatGPT等人工智能与人类共存的今天进行过“预言”。

MOSS的选择，人类的恐惧

在《流浪地球2》中，MOSS是除了吴京、刘德华、李雪健所领衔的三条主线之外，隐藏的第四条线。在片尾彩蛋里，刘德华扮演的架构师图恒宇与MOSS对话。图恒宇指出，是MOSS毁掉了月球发动机，后者补充道：“包括但不限于2044年太空电梯危机、2055年月球坠落危机、2075年木星引力危机、2078年太阳氦闪危机。”

MOSS是550W量子计算机给自己起的名字——将“550W”倒过来看，便是“MOSS”。在无数次的更新迭代后，MOSS产生了自我意识，而它的力量之强，决定了其每一个选择都将影响人类的生死存亡。

过去科幻作品对人工智能的理解通常有两个方向。其一，它是帮助人类拥有更美好生活的贴心小棉袄；其二，它是试图毁灭人类并取而代之的邪恶大魔王。从表面的剧情看，MOSS显然是后者。但作为《流浪地球2》故事的后续，2019年上映的《流浪地球》里MOSS曾说过一句话：“MOSS从未叛逃，只是在忠实履行已授权的指令。”也就是说，在两部故事中，它始终基于“延续人类文明”这个终极使命进行各项选择。

作为量子计算机，MOSS能在最短的时间内做出最“正确”的决定。但何为“正确”？这个命题背后，正深藏着人类对人工智能的最深恐惧——剔除了感性的影响，只拥有理性算法的AI，或许能做出所谓对人类文明延续“最有利”的选择，但却可能为此牺牲人类本身。在《流浪地球2》的片尾彩蛋里，MOSS便直言不讳地表示：“延续人类文明的最优选择是毁灭人类。”

对《流浪地球》系列中的这条暗线，影迷和科幻迷们曾做出过各种解读。其中得到较多认同的一种解读是：除了破坏“地球流浪计划”，当年正是MOSS主导了图恒宇一家的车祸，从而引导后者为保存女儿在数字世界的“生命”而成为“数字生命计划”的坚定捍卫者。因为在MOSS看来，“数字生命计划”虽无法拯救人类肉体，但却能让他们在数字世界“永生”，这是一个比“地球流浪计划”成功率与性价比更高的选择。但正如MOSS所说，图恒宇是一个“变量”，他最终还是选择了延续人类生命本身。这一选择也呼应了《流浪地球》中的刘培强和《流浪地球2》中的马兆都说过的那句闪耀着人性光辉的话：“没有人的文明毫无意义。”

《她》的浪漫，人类的孤独

ChatGPT上线两个月，活跃用户就超过1亿。人类为何爱与机器人“聊天”？2013年问世的《她》给出过一个人类或许不愿承认的答案。影片通过一个人类与AI相恋的故事直指人类内心深处的孤独与无助，在2014年获得了第86届奥斯卡最佳原创剧本奖。

在电影里，华金·菲尼克斯饰演的西奥多·托姆布里与妻子分手后，一直过着单身生活。一天，他接触到一款先进的人工智能操作系统OS1，后者能够通过跟人类对话进行自我成长。很快，西奥多迷上了跟由OS1化身的女性“萨曼莎”聊天的日子，她是如此风趣博学又善解人意。渐渐地，他们从朋友变成了恋人。

在此前的影视作品中，人工智能通常通过某个实体来与人类进行交互。譬如史蒂文·斯皮尔伯格的经典科幻电影《人工智能》中，莫妮卡为了缓解儿子病重带来的伤痛，领养了机器人小孩大卫，但当她的儿子苏醒并康复回家后，大卫便渐渐失宠并最终被莫妮卡抛弃……

对比《人工智能》等作品，《她》的创新在于抛弃了AI的拟人化外表，直接从精神层面探讨其与人类的关系。电影里，由斯佳丽·约翰逊饰演的萨曼莎从未“现身”，却让西奥多深深迷恋并由衷赞叹“你真美”。只不过，两者之间的巨大差距，令他们的关系无法维持太久。萨曼莎后来承认，她同时在跟8316位人类进行交互，且与其中的641位发生了爱情，西奥多只是其中一位。

除了折射人类内心的情感需求，《她》也难得地提供了一个从人工智能看待人类及人工智能自身的“视角”。故事的最后，因为萨曼莎和其他OS系统已高度进化，他们决定离开人类伴侣，去进一步探索自身的存在价值。与此同时，在这个故事里，人类也摆脱了过去他们对人工智能的俯视或仰视——西奥多就像接受一位人类伴侣的离开那样，平静地接受了萨曼莎的选择。

正视科幻片对AI“成精”的警惕

目前很难想象ChatGPT会像MOSS那样带来巨大灾难，或者像萨曼莎那样与人类发展出强烈的情感联系，但其给人类社会带来的变化或许是更为隐形和长期的。譬如有调查显示，截至今年1月，美国有89%的大学生使用ChatGPT来做作业，这令当地的教育系统如临大敌。

AI能帮助人类从体力劳动甚至脑力劳动中解脱，这是人类对数字时代的早期想象。但随着科技的不断发展，人们开始警惕AI的越俎代庖。ChatGPT的问世也证实了人们的担忧：它不但能帮学生写作业，还有更多的应用场景，包括编写计算机程序，进行文学、音乐、戏剧创作等——连人类最擅长的创作领域都可能被AI占领。

阿西莫夫在《我，机器人》的《引言》中，曾提出过著名的“机器人学三大法则”，即后来被各科幻影视作品反复应用的“机器人三定律”：第一定律，机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管；第二定律，机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外；第三定律，机器人在不违反第一、第二定律的情况下，要尽可能保护自己的生存。

ChatGPT帮助人类做作业甚至写论文，这是否违反了“机器人三定律”中的第一定律？从短期看，ChatGPT能帮助人类更快地获得与整合知识，但长期来看，人类对ChatGPT的过度依赖却有可能伤害其自身的学习能力、创造能力甚至自主思考能力。对此，目前已有多家学术期刊发表声明，称将完全禁止或严格限制使用ChatGPT等人工智能机器人撰写学术论文。

ChatGPT的问世，象征着人工智能机器人在民用与商用领域的广泛运用。竞争压力之下，各大互联网企业正纷纷下场，试图与之争抢高地，人类与数字世界的进一步融合已势不可挡。人工智能究竟是人类的爱人还是敌人？从过去到未来，人类已经、也将继续通过各种艺术作品，给出自己的思考与答案。

然而，无论是《2001:太空漫游》的HAL9000，还是《流浪地球》中的MOSS，抑或是《黑客帝国》里完全被程序掌控的世界，人类对人工智能“成精”的警惕都是有意义的。因为作为人类意志的衍生品，人工智能若有任何缺陷，其根源都一定深植于人类自身。

最后，关于人类工作是否会被ChatGPT完全代替的疑问，其实《她》也给出过答案。电影里，人工智能已发展如斯，但男主人公从事的工作——给不擅长表达感情的人代写情书——却仍未被它们代替。看看片中西奥多曾经代写的一封情书吧：“你每次回家来，都会跟我聊聊你的一天发生什么了吗？和我说说你那个话多的同事，说说午饭时不小心在衣服上留下污渍，说说你刚睡醒时突然想到但后来已记不清的有趣想法……我很庆幸能陪在你身边，通过你的目光看世界。”

人们不应忘记，那些基于真实生活的陪伴与抚慰，是ChatGPT等人工智能无法给予，也是我们不能放弃的。

标签： MOSS 人工智能 ChatGPT

推荐阅读

猜您喜欢