梵蒂冈当地时间5月25日,教宗利奥十四世在就任后发表的首份重要通谕《辉煌人性》(Magnifica Humanitas)中,罕见以强烈语气呼吁各国政府放缓人工智能系统的发展步伐,警告相关技术正在助长虚假信息、优先放大冲突,并可能把世界推向“无休止战争”的道路。

这位上任一年多、近期言辞日益强硬的美国籍教宗,在这份逾4.3万字的长篇文件中向全球政治领袖发出多项充满激情的呼吁,其中也包括对美国总统唐纳德·特朗普政府发动伊朗战争的批评,此前这些表态已引发华盛顿方面不满。
利奥十四世在文件中指出,人工智能的发展不应任由少数私人企业掌控,尤其是数据的所有权不可以仅集中在私人手中。他呼吁政策制定者切实保护劳动者权益,保障儿童免受新技术侵害,并敦促各大人工智能企业“给竞争降温”。他写道,“在一切都在加速之时,我们需要的是一种更为积极的政治介入,它有能力让事态慢下来。”他同时强调,必须建立“健全的法律框架、独立的监督机制、知情的使用者,以及不放弃自身责任的政治体系”。
按照天主教传统,通谕是教宗面向全球约14亿信众最具权威性的教导形式之一。这份被高度期待的文本从利奥十四世当选教宗后不久便开始起草,其主轴锁定人工智能的兴起,同时辐射至战争、国际秩序、武器工业和历史罪责等议题。
在谈及当今国际局势时,教宗严厉谴责当代战争的残酷性,感叹多边组织功能衰弱,并指出军火工业利润是战争持续的重要推手。他在英文文本中写道,过去60年间,“世界被一系列残酷程度惊人的冲突所标记,这些战争往往在大规模层面殃及平民。”在他看来,人类正在滑向一种“权力暴力的文化”,“和平不再被视为必须承担的责任,而只是冲突之间脆弱的间歇”。
利奥十四世在通谕中作出了迄今最明确的教宗表态之一,公开否定传统的“正义战争”理论。这一自至少公元五世纪以来在教会传统中用于评估战争是否正当的教义,长期被视为限制战争的伦理框架,但近年来也被美国政府高官,包括身为天主教徒的副总统J·D·万斯,用来为伊朗战争辩护。教宗写道,“所谓‘正义战争’理论,太多时候沦为为任何类型战争辩护的工具,如今已经过时。”他强调,使用武力、暴力和武器,是一种关系贫乏的表现,最终“总会给平民带来灾难性后果”。他并警告,不排除有领袖将战争作为转移国内矛盾、操控社会情绪的“玩世不恭的工具”。
针对人工智能在军事领域的使用,教宗明确要求置于“最严格的伦理约束”之下,强调“将致命决策交由人工智能系统作出,是不被允许的”。在阐述人工智能伦理之前,利奥十四世回顾了历任教宗关于社会公义的教导,特别提到其同名前任利奥十三世在1891年发表的著名通谕,曾在工业革命时期为工人争取更好的薪酬与工作条件。
站在当下技术变革的节点,利奥十四世严厉抨击人工智能时代产生的“新型奴隶制”。在他笔下,那些负责维护人工智能系统的劳工,以及制造电脑、智能手机等硬件设备的工人,构成了这种新奴役关系的主体。他指出,在部分地区,儿童和青少年被迫在危险环境中工作,粉碎提炼稀土的原料,“这些人的身体被磨损、受伤、布满伤痕,只为让计算流程得以不间断地继续。”他认为,这一现实“深刻拷问着我们这个时代的道德良知”。
在谈及历史罪责时,教宗正面触及天主教会在跨大西洋奴隶贸易问题上的迟滞立场。他承认,教会直到19世纪才对跨大西洋奴隶制作出有力谴责,这一事实“在基督徒的记忆中留下创伤”。利奥十四世为此作出个人道歉,“为这一切,我以教会的名义,真诚请求宽恕”。
通谕最后部分,利奥十四世将视线拉回到人工智能的长远风险与人类共同命运。他在开篇即强调,这封信不只写给天主教徒,而是面向所有“善意之人”。他呼吁全球社会认真面对人工智能发展、以及当今领导方式所引发的“关键问题”。借用《圣经》中“巴别塔”的故事,他指出,当人类群体出于傲慢,企图建造一座直达天庭的高塔时,所体现的正是任何不求上帝祝福却妄图“直抵天堂”的工程风险。他写道,“以一颗牧者和父亲的心,我请求所有人放弃建造又一座巴别塔,而是携手致力于公共福祉的建构。”
面对技术风险和全球性挑战的复杂度,教宗提醒人们警惕一种“微妙的诱惑”:认为问题过于庞大、个体过于渺小,从而相信“我们的选择毫无意义”。利奥十四世表示,固然并非人人都握有同样的影响力,“但没有任何人可以完全卸责,我们每个人都在各自的行动领域之内负有责任”。