免费解锁编辑文摘
英国《金融时报》编辑鲁拉·哈拉夫 (Roula Khalaf) 在这本每周通讯中选择了她最喜欢的故事。
有两种方法可以对一个行业施加规则：在它破坏某些东西之前，或者在它破坏之后。人工智能正在走后一条路。
加州州长 Gavin Newsom 上周末否决了一项法案，该法案将对 OpenAI 的 ChatGPT 或谷歌的 Gemini 等人工智能模型施加一些相当温和的标准，要求它们采取合理的预防措施以避免灾难性伤害。
这些措施——包括发布安全声明和测试新模型是否可能造成严重破坏——并不是官僚主义的噩梦。他们只可能绑定比当今存在的更大的人工智能引擎。大多数大公司已经表示他们将优先考虑安全。此外，拟议的标准已经被大幅淡化。
尽管如此，包括风险投资家 Andreessen Horowitz 和 Y Combinator 在内的一些科技界大佬还是大声疾呼。一些人认为，规则应该来自华盛顿——在分裂的国会中不太可能——或者应该更多地基于人工智能实际风险的证据，而这些风险仍然主要是理论上的。
这与另一个威胁破坏文明的行业有相似之处：银行。摩根大通（JPMorgan）和高盛（Goldman Sachs）等大型贷方花费了大量资金和时间来对抗计划以控制它们。他们最近也取得了胜利，迫使美联储削弱了原本可以让他们持有更多资本的复杂规则。
所有行业的监管拒绝者都倾向于采取类似的论点，声称仓促的规则会抑制创新并扼杀新贵。华尔街和硅谷都担心过于严格的繁文缛节可能会阻止他们做好事。银行将无法为美国人提供抵押贷款服务；人工智能创造者会回避开发供开发人员自由修改的模型。
诚然，人工智能监管可以更加整洁。纽瑟姆抱怨说，该法案的规模门槛将使规模较小的实体免受伤害，而这些实体仍可能造成严重损害。这种情况发生在银行业，当时中等规模、监管较轻的硅谷银行在 2023 年陷入混乱。不过，最好还是把门槛设得高一点，然后再调整。在预防危机方面，完美是善良的敌人。
人工智能背后的策划者及其风险投资支持者或许应该更多地关注华尔街的类比。其一，令人讨厌的规则只会让大银行变得更大。尽管受到严厉的监管，美国机构仍占据主导地位，因为客户认为它们更安全。与此同时，金融发明继续快速发展。
此外，因无法预防的危机而产生的监管确实可能非常繁重。想想2008年金融危机后起草的严厉的多德-弗兰克规则，这些规则至今仍抑制着银行家的动物精神。随着时间的推移，那些否决了加州法案的人工智能巨头可能会希望自己没有那么成功。
关键词：
