作者是历史学家、哲学家和作家
随着人工智能革命的加速，我们受到乌托邦愿景和世界末日预言的轰炸。评估威胁的严重程度是很困难的，因为我们已经习惯于担心错误的情况。科幻小说多次警告我们有关大型机器人叛乱的警告。在许多科幻小说和电影中——比如 这 终结者 和 这 矩阵 — 人工智能和机器人决定控制世界，反抗人类主人，奴役或毁灭人类。这样的事情在短期内极不可能发生。技术还不存在。目前，人工智能都是白痴专家。他们可能掌握了一些狭窄的领域，例如下棋、折叠蛋白质或撰写文本，但他们缺乏高度复杂的活动（例如建立机器人军队和夺取国家控制权）所需的一般智力。不幸的是，大型机器人叛乱不太可能发生并不意味着没有什么可害怕的。因为我们应该担心的不是杀手机器人，而是机器人。相反，是数字官僚。卡夫卡的 审判 是关于人工智能反乌托邦的更好指南 终结者。
经过数百万年的进化，人类已经习惯于害怕像图中所描绘的那样的暴力掠食者。 终结者。我们发现理解官僚主义的威胁要困难得多，因为官僚主义是哺乳动物甚至人类进化中非常新颖的发展。我们的思想准备好害怕被老虎杀死，但不会害怕被文件杀死。
大约 5000 年前，古代美索不达米亚文字发明后，官僚制度才开始发展。但官僚主义以激进和意想不到的方式迅速改变了人类社会。例如，考虑一下书面文件和使用这些文件的官僚对所有权含义的影响。在书面文件发明之前，所有权依赖于共同共识。如果你“拥有”一块土地，就意味着你的邻居通过他们的言语和行动同意这是你的土地。他们没有在那片土地上建造住宅，也没有收获土地上的农产品，除非你允许他们这么做。
所有权的共有性质限制了个人财产权。例如，您的邻居可能同意您拥有耕种特定土地的唯一权利，但他们不承认您有权将其出售给外国人。与此同时，只要所有权是一个公共共识的问题，它也阻碍了遥远的中央当局控制土地的能力。由于缺乏书面记录和复杂的官僚机构，没有哪个国王能记得谁拥有数百个偏远村庄的哪块土地。因此，国王们发现很难提高税收，这反过来又阻碍了他们维持军队和警察部队。
然后文字被发明，随之而来的是档案馆和官僚机构的创建。这项技术起初非常简单。古代美索不达米亚官僚使用小棍子在泥板上刻下符号——泥板基本上只是大块的泥巴。但在新官僚体系的背景下，这些泥土彻底改变了所有权的含义。突然之间，拥有一块土地就意味着在一块泥板上写着你拥有那块土地。如果你的邻居多年来一直在那里采摘水果，并且没有人说过那块土地是你的，但你仍然设法生产出一块官方的泥土，表明你拥有它，你可以在法庭上强制执行你的主张。相反，如果当地社区承认您拥有一块土地，但没有文件给予其正式批准印章，那么您就不拥有它。今天仍然如此，只不过我们的重要文件是写在纸或硅片上而不是粘土上。
一旦所有权成为书面文件而不是集体同意的问题，人们就可以开始出售他们的土地而无需征得邻居的许可。要出售一块田地，你只需将关键的泥板转让给别人即可。但这也意味着所有权现在可以由遥远的官僚机构决定，这些官僚机构产生了相关文件，并可能将它们保存在中央档案馆中。征税、支付军队费用和建立大型中央集权国家的道路已经打开。这份书面文件改变了世界权力的流动方式，并赋予税务员、出纳员、会计师、档案管理员和律师等官僚巨大的影响力。他们已经成为信息网络的管道工，通过操纵文件、表格、法规和其他官僚杠杆，无论好坏，都控制着税收、付款甚至士兵的流动。
这就是人工智能现在准备抓住的力量。官僚体制是一种人为环境，在其中，通过操纵信息流，掌握一个狭窄的领域就足以对更广阔的世界产生巨大影响。如果你把当今的人工智能扔进混乱的非结构化世界，它可能无法完成太多工作——而且肯定无法组建一支机器人军队。但这就像把一名公司律师扔进混乱、无组织的大草原一样。在那里，律师的能力毫无意义，比不上大象或狮子。但如果你首先建立一个官僚体系并将其强加于大草原，律师就会变得比世界上所有狮子加起来还要强大得多。如今，狮子的生存取决于律师在迷宫般的官僚机构中撰写和移动文件。至关重要的是，在这个迷宫中，人工智能可能会变得比任何人类律师都强大得多。
未来几年，数以百万计的人工智能官僚将越来越多地为狮子和人类的生活做出决定。人工智能银行家将决定是否给你贷款。教育系统中的人工智能将决定是否接受你进入大学。公司里的人工智能将决定是否给你一份工作。法院系统中的人工智能将决定是否将您送进监狱。军事人工智能将决定是否轰炸你的家。这些人工智能并不一定是坏事。它们很可能使系统更加高效、更加公平。他们可以为我们提供优质的医疗保健、教育、正义和安全。但如果出现问题，结果可能是灾难性的。在一些领域，事情已经出了问题。
也许最有说服力的例子是社交媒体算法的故事。这些原始的人工智能已经重塑了世界，对人类社会产生了巨大影响。 Facebook、X、YouTube 和 TikTok 等公司的算法都被赋予了一个非常狭窄的目标，这对白痴专家来说是完美的：提高用户参与度。用户在社交媒体上花费的时间越多，公司赚的钱就越多。为了追求用户参与度，算法做出了一个危险的发现。通过对数百万人类豚鼠进行实验，社交媒体算法了解到贪婪、仇恨和恐惧会增加用户参与度。如果你按下一个人脑海中的贪婪、仇恨或恐惧按钮，你就会吸引那个人的注意力，让他们粘在屏幕上。因此，算法开始故意传播贪婪、仇恨和恐惧。这是当前阴谋论、假新闻和社会骚乱盛行，破坏世界各地社会的一个主要原因。
社交媒体算法是极其有限的人工智能，不可能在大草原上生存或策划大型机器人叛乱。但在社交媒体平台的官僚结构中，这些白痴学者掌握着巨大的权力，而这曾经是人类的专利。几个世纪以来，人类编辑决定广播和电视的新闻广播中包含哪些内容，以及报纸的头版上包含哪些内容，从而塑造了公众对话。它使编辑成为了强大的人物。让-保罗·马拉通过编辑有影响力的报纸塑造了法国大革命的进程 人民之友。爱德华·伯恩斯坦通过编辑塑造了现代社会民主思想 社会民主党。弗拉基米尔·列宁在成为苏联独裁者之前担任的最重要职务是《 火星报。贝尼托·墨索里尼作为煽动性右翼报纸的编辑而获得名声和影响力 意大利人民。有趣的是，世界上最早被人工智能自动化的工作之一并不是出租车司机或纺织工人，而是新闻编辑。曾经由列宁和墨索里尼完成的工作现在可以由人工智能完成。
算法编辑对人类社会造成的破坏是一个警告信号。人类世界是一个由多个官僚机构组成的网格，人工智能即使完全没有能力发动大型机器人叛乱，也可以积累巨大的力量。如果你可以从内部接管一个系统，为什么还要反抗它呢？
关键词：
