您的当前位置:首页>国内 > 正文

环球观点:科幻片预言ChatGPT道德困境

  • 2023-02-13 10:09:45 来源:羊城晚报

羊城晚报记者李丽


(资料图片)

《流浪地球》中的MOSS

《流浪地球2》中,图恒宇父女在数字世界中重逢

《她》中,人类与无实体的人工智能相恋

人工智能对话聊天机器人ChatGPT持续在社交媒体走红,更引发互联网公司新一轮竞争。巨大商机之外,ChatGPT所引发的道德困境也让人们争论不休。

巧合的是,仍在热映的春节档电影《流浪地球2》中,也有一个功能类似、甚至超越ChatGPT的重要“主角”——智能量子计算机MOSS。在两部《流浪地球》中,正是MOSS造成了无数巨大的灾难,同时也促使人类在一次次危机中走向团结。除了MOSS,还有更多科幻电影基于对人性的理解和对未来的想象,对ChatGPT等人工智能与人类共存的今天进行过“预言”。

MOSS的选择,人类的恐惧

在《流浪地球2》中,MOSS是除了吴京、刘德华、李雪健所领衔的三条主线之外,隐藏的第四条线。在片尾彩蛋里,刘德华扮演的架构师图恒宇与MOSS对话。图恒宇指出,是MOSS毁掉了月球发动机,后者补充道:“包括但不限于2044年太空电梯危机、2055年月球坠落危机、2075年木星引力危机、2078年太阳氦闪危机。”

MOSS是550W量子计算机给自己起的名字——将“550W”倒过来看,便是“MOSS”。在无数次的更新迭代后,MOSS产生了自我意识,而它的力量之强,决定了其每一个选择都将影响人类的生死存亡。

过去科幻作品对人工智能的理解通常有两个方向。其一,它是帮助人类拥有更美好生活的贴心小棉袄;其二,它是试图毁灭人类并取而代之的邪恶大魔王。从表面的剧情看,MOSS显然是后者。但作为《流浪地球2》故事的后续,2019年上映的《流浪地球》里MOSS曾说过一句话:“MOSS从未叛逃,只是在忠实履行已授权的指令。”也就是说,在两部故事中,它始终基于“延续人类文明”这个终极使命进行各项选择。

作为量子计算机,MOSS能在最短的时间内做出最“正确”的决定。但何为“正确”?这个命题背后,正深藏着人类对人工智能的最深恐惧——剔除了感性的影响,只拥有理性算法的AI,或许能做出所谓对人类文明延续“最有利”的选择,但却可能为此牺牲人类本身。在《流浪地球2》的片尾彩蛋里,MOSS便直言不讳地表示:“延续人类文明的最优选择是毁灭人类。”

对《流浪地球》系列中的这条暗线,影迷和科幻迷们曾做出过各种解读。其中得到较多认同的一种解读是:除了破坏“地球流浪计划”,当年正是MOSS主导了图恒宇一家的车祸,从而引导后者为保存女儿在数字世界的“生命”而成为“数字生命计划”的坚定捍卫者。因为在MOSS看来,“数字生命计划”虽无法拯救人类肉体,但却能让他们在数字世界“永生”,这是一个比“地球流浪计划”成功率与性价比更高的选择。但正如MOSS所说,图恒宇是一个“变量”,他最终还是选择了延续人类生命本身。这一选择也呼应了《流浪地球》中的刘培强和《流浪地球2》中的马兆都说过的那句闪耀着人性光辉的话:“没有人的文明毫无意义。”

《她》的浪漫,人类的孤独

ChatGPT上线两个月,活跃用户就超过1亿。人类为何爱与机器人“聊天”?2013年问世的《她》给出过一个人类或许不愿承认的答案。影片通过一个人类与AI相恋的故事直指人类内心深处的孤独与无助,在2014年获得了第86届奥斯卡最佳原创剧本奖。

在电影里,华金·菲尼克斯饰演的西奥多·托姆布里与妻子分手后,一直过着单身生活。一天,他接触到一款先进的人工智能操作系统OS1,后者能够通过跟人类对话进行自我成长。很快,西奥多迷上了跟由OS1化身的女性“萨曼莎”聊天的日子,她是如此风趣博学又善解人意。渐渐地,他们从朋友变成了恋人。

在此前的影视作品中,人工智能通常通过某个实体来与人类进行交互。譬如史蒂文·斯皮尔伯格的经典科幻电影《人工智能》中,莫妮卡为了缓解儿子病重带来的伤痛,领养了机器人小孩大卫,但当她的儿子苏醒并康复回家后,大卫便渐渐失宠并最终被莫妮卡抛弃……

对比《人工智能》等作品,《她》的创新在于抛弃了AI的拟人化外表,直接从精神层面探讨其与人类的关系。电影里,由斯佳丽·约翰逊饰演的萨曼莎从未“现身”,却让西奥多深深迷恋并由衷赞叹“你真美”。只不过,两者之间的巨大差距,令他们的关系无法维持太久。萨曼莎后来承认,她同时在跟8316位人类进行交互,且与其中的641位发生了爱情,西奥多只是其中一位。

除了折射人类内心的情感需求,《她》也难得地提供了一个从人工智能看待人类及人工智能自身的“视角”。故事的最后,因为萨曼莎和其他OS系统已高度进化,他们决定离开人类伴侣,去进一步探索自身的存在价值。与此同时,在这个故事里,人类也摆脱了过去他们对人工智能的俯视或仰视——西奥多就像接受一位人类伴侣的离开那样,平静地接受了萨曼莎的选择。

正视科幻片对AI“成精”的警惕

目前很难想象ChatGPT会像MOSS那样带来巨大灾难,或者像萨曼莎那样与人类发展出强烈的情感联系,但其给人类社会带来的变化或许是更为隐形和长期的。譬如有调查显示,截至今年1月,美国有89%的大学生使用ChatGPT来做作业,这令当地的教育系统如临大敌。

AI能帮助人类从体力劳动甚至脑力劳动中解脱,这是人类对数字时代的早期想象。但随着科技的不断发展,人们开始警惕AI的越俎代庖。ChatGPT的问世也证实了人们的担忧:它不但能帮学生写作业,还有更多的应用场景,包括编写计算机程序,进行文学、音乐、戏剧创作等——连人类最擅长的创作领域都可能被AI占领。

阿西莫夫在《我,机器人》的《引言》中,曾提出过著名的“机器人学三大法则”,即后来被各科幻影视作品反复应用的“机器人三定律”:第一定律,机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管;第二定律,机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外;第三定律,机器人在不违反第一、第二定律的情况下,要尽可能保护自己的生存。

ChatGPT帮助人类做作业甚至写论文,这是否违反了“机器人三定律”中的第一定律?从短期看,ChatGPT能帮助人类更快地获得与整合知识,但长期来看,人类对ChatGPT的过度依赖却有可能伤害其自身的学习能力、创造能力甚至自主思考能力。对此,目前已有多家学术期刊发表声明,称将完全禁止或严格限制使用ChatGPT等人工智能机器人撰写学术论文。

ChatGPT的问世,象征着人工智能机器人在民用与商用领域的广泛运用。竞争压力之下,各大互联网企业正纷纷下场,试图与之争抢高地,人类与数字世界的进一步融合已势不可挡。人工智能究竟是人类的爱人还是敌人?从过去到未来,人类已经、也将继续通过各种艺术作品,给出自己的思考与答案。

然而,无论是《2001:太空漫游》的HAL9000,还是《流浪地球》中的MOSS,抑或是《黑客帝国》里完全被程序掌控的世界,人类对人工智能“成精”的警惕都是有意义的。因为作为人类意志的衍生品,人工智能若有任何缺陷,其根源都一定深植于人类自身。

最后,关于人类工作是否会被ChatGPT完全代替的疑问,其实《她》也给出过答案。电影里,人工智能已发展如斯,但男主人公从事的工作——给不擅长表达感情的人代写情书——却仍未被它们代替。看看片中西奥多曾经代写的一封情书吧:“你每次回家来,都会跟我聊聊你的一天发生什么了吗?和我说说你那个话多的同事,说说午饭时不小心在衣服上留下污渍,说说你刚睡醒时突然想到但后来已记不清的有趣想法……我很庆幸能陪在你身边,通过你的目光看世界。”

人们不应忘记,那些基于真实生活的陪伴与抚慰,是ChatGPT等人工智能无法给予,也是我们不能放弃的。

标签: MOSS 人工智能 ChatGPT

推荐阅读

环球观点:科幻片预言ChatGPT道德困境

羊城晚报记者李丽《流浪地球》中的MOSS《流浪地球2》中,图恒宇父女在数字世界中重逢《她》中,人类与无...

世界速讯:那英留下油灯光,刘欢铩羽电视台

1991年春节晚会出彩的歌曲有彭丽媛的《在中国大地上》,潘美辰的《我想有个家》,甄妮的《鲁冰花》,姜...

世界快资讯:白居易的杀马特朋友

曾于太白峰前往,数到仙游寺里来。黑水澄时潭底出,白云破处洞门开。林间暖酒烧红叶,石上题诗扫绿苔。...

天天讯息:结缘《对话》20年后,他又来了……

做客《对话》我感到非常地亲切,0到14也提醒我,我在这个产业已经打拼了很多年了,但我依然雄心勃勃,也...

《中国奇谭》今日收官,在动画里演绎中国“魂”

中国青年报客户端北京2月12日电(中青报·中青网记者沈杰群)中式奇幻动画短片集《中国奇谭》于今日收官...

猜您喜欢

【版权及免责声明】凡注明"转载来源"的作品,均转载自其它媒体,转载目的在于传递更多的信息,并不代表本网赞同其观点和对其真实性负责。亚洲文化网倡导尊重与保护知识产权,如发现本站文章存在内容、版权或其它问题,烦请联系。 联系方式:8 86 239 5@qq.com,我们将及时沟通与处理。

头条