教皇利奥对人工智能和自主武器发出警告

教皇利奥在周一发布的第一份重要文件中敦促各国政府放慢并严格监管人工智能系统的发展，警告它们传播错误信息，优先考虑冲突，并有可能导致世界走上无休止的战争之路。

美国第一位教皇还对梵蒂冈的一次活动表示担忧，该活动发布了一些自主武器系统的先进文本，“实际上超出了人类所能控制的范围”。

全球顶尖人工智能公司之一 Anthropic 联合创始人 Chris Olah 也出席了此次活动。

利奥近几个月采取了更强硬的语气，在批评伊朗战争后激怒了美国总统唐纳德·特朗普，他在这份被称为通谕的冗长文件中向世界领导人发出了一系列热情洋溢的呼吁。

美国第一位教皇呼吁人工智能数据的所有权不要完全掌握在私人手中，政策制定者应保护工人的权利并确保儿童免受该技术的侵害，并敦促人工智能公司之间的竞争降温。

利奥在题为“Magnifica Humanitas”（伟大的人性）的文本中说：“我们需要的是更积极的政治参与，当一切都在加速时，这种参与能够减缓事情的发展。”

教皇呼吁“健全的法律框架、独立的监督、知情的用户以及不放弃责任的政治体系”。

通谕是教宗向教会 14 亿成员进行教导的最高形式之一。周一备受期待的文本涵盖近 43,000 字，几乎自一年多前利奥当选教皇以来一直在酝酿之中。

这份以人工智能为主题的文件还谴责了席卷全球的战争数量，哀叹多边组织的削弱，并警告说军火工业的利润是冲突背后的驱动力。

利奥在英文文本中表示：“过去 60 年的冲突极其残酷，常常大规模影响平民。”

他说：“人类正在陷入一种暴力的权力文化，和平不再被视为一种需要承担的责任，而是冲突之间的脆弱间歇。”

在周一的梵蒂冈活动上，Anthropic 联合创始人 Olah 感谢 Leo 解决了颠覆性新技术带来的问题。他表示，像他这样的公司面临着强大的商业压力，需要外部审查。

“每个前沿人工智能实验室，包括 Anthropic，都在一系列激励和约束下运作，这些激励和约束有时可能与做正确的事情相冲突，”Olah 说。 Anthropic 是生产 Claude AI 工具的公司。

在他的通谕中，利奥还做出了迄今为止教皇最明确的声明之一，否认正义战争理论，教会至少从五世纪以来就一直使用这一学说来评估全球冲突。

这一学说通常认为，战争“只能为了防御侵略而发动”，特朗普政府官员，包括副总统、天主教徒万斯，也援引这一学说来为伊朗战争辩护。

利奥写道：“‘正义战争’理论经常被用来为任何类型的战争辩护，但现在已经过时了。”

“使用武力、暴力和武器反映了一种关系性贫困，这种贫困总是给平民带来灾难性的后果。”

利奥还担心领导人可能会发动战争来分散公民对国内问题的注意力。

他表示：“我们不能排除一些领导人可能将武装冲突视为转移人们对国内问题注意力的有效方式和处理困难的工具的可能性。”

教皇表示，在战争中使用人工智能“必须受到最严格的道德约束”，并称“不允许”将致命决策委托给人工智能系统。

利奥是第 14 位选择这个名字的教皇，他在谈到人工智能系统的伦理问题之前，引用了教皇几个世纪以来关于社会正义问题的教义。

他特别援引了他的前任利奥十三世，后者于 1891 年发表了一篇著名的通谕，呼吁在工业革命期间为工人提供更好的工资和条件。

利奥十四世谴责了他所说的“新形式的奴役”，这些人是照料人工智能系统的人们和生产使用人工智能的计算机和智能手机等技术设备的工厂工人所忍受的。

教皇写道：“在世界一些地区，儿童和青少年在危险的条件下工作，压碎提取稀土元素的材料。”

他说：“这些人的身体伤痕累累、伤痕累累，因此计算流程可以不间断地继续。” “这一现实深刻挑战了我们这个时代的道德良知。”

教皇还承认，天主教会直到19世纪才强烈谴责跨大西洋奴隶制，并做出了个人道歉。

“这构成了基督徒记忆中的一个伤口，”他写道。 “为此，我以教会的名义真诚请求宽恕。”

利奥在信的开头表示，他想向天主教徒和所有善意的人发表讲话，他表示，社会必须面对关于人工智能如何发展以及全球领导力的总体方向的“关键问题”。

教宗援引圣经中巴别塔的故事——一个人类部落在骄傲的驱使下，试图建造一座足够高的塔，以到达天堂，这激怒了上帝——教皇说，这个故事表明了任何“渴望在没有上帝祝福的情况下到达天堂”的企业所面临的风险。

教宗表示：“我怀着牧羊人和父亲的心，请求大家放弃建造另一座巴别塔，并齐心协力建设共同利益。”

Leo 敦促世界不要放弃解决人工智能系统可能存在的风险。

他写道：“可能会出现一种微妙的诱惑，即认为问题太大而我们太小，因此我们的选择无法产生影响。”

“当然，并不是每个人都有同样的能力来改变现状，”利奥说。

“然而，没有人是没有责任的。我们都有自己的行动领域。”