免费解锁编辑文摘
英国《金融时报》编辑鲁拉·哈拉夫 (Roula Khalaf) 在这本每周通讯中选择了她最喜欢的故事。
这听起来可能有点像科幻小说的情节，但在未来，人工智能有望达到快速自我完善、逃避人类控制、通过网络攻击甚至核灾难给人类带来混乱的程度。这是一些科学家和开发人员所关心的问题，也是加州制定人工智能安全法案的动机，全球 50 家领先的人工智能公司中有 32 家位于加州。但周日，州长加文·纽瑟姆否决了该法案。这一决定被视为大型科技公司的重大胜利，对公共安全而言是一个鲁莽的决定，并且错失了在全国范围内制定事实上的人工智能安全标准的机会。事情没那么简单。
制定规则来防止技术的潜在危害，尤其是仍在开发中的技术，是一种棘手的平衡行为。如果过于专横，就有可能从一开始就扼杀创新，这意味着社会也会错失其潜在的好处。而且，尽管加州的法案在硅谷的大力游说下被淡化，但其对人工智能开发和部署的影响仍然存在不确定性。
加州法案的一大目标是提高开发商对滥用其模型的责任。无论这多么令人钦佩，它也可能产生副作用。例如，开发人员很难事前知道他们的技术将如何使用。他们可能会通过退出研究来调和这一点。人工智能专家还担心该法案的安全协议——其中包括要求公司在超过一定阈值的模型中建立“终止开关”——可能会阻碍开源模型的开发和使用，而开源模型正是在开源模型中进行的。
另一个担忧是，该立法并未专门针对高风险环境中使用的人工智能系统，例如关键基础设施，或者使用敏感数据的人工智能系统。即使是基本功能，它也采用了严格的标准。
考虑到这些担忧，纽瑟姆的决定似乎是合理的。然而，这并不意味着科技公司应该自由运行。随着人工智能竞赛的加速，人们真正担心模型构建者可能会忽视弱点。因此，立法者现在有必要修改拟议规则并澄清模糊的措辞，以更好地平衡对当今创新影响的担忧。纽瑟姆宣布与专家建立有希望的合作伙伴关系，开发“可行的护栏”。同样值得欢迎的是，州长最近签署了旨在监管明确且现实的人工智能风险（而不是假设的风险）的法案，包括围绕深度假货和错误信息的风险。
虽然加州在人工智能监管方面的领导力值得赞扬，但如果安全规则能够在联邦层面制定并颁布，效果也会更好。这将为美国各地提供保护，防止出现不同州法律的拼凑，并避免使金州——美国和全球人工智能创新的中心——处于竞争劣势。
事实上，尽管硅谷投资者和人才库的吸引力依然强劲，但单边和过于严格的人工智能监管可能会推动其他地方的模型开发，从而削弱该州的人工智能技术生态系统。事实上，加利福尼亚州的税收很高，而且是美国监管最严格的州。房产也很贵。包括美国数据分析公司 Palantir 和经纪公司嘉信理财 (Charles Schwab) 在内的公司最近已离开该州，一些科技公司也削减了办公空间。
管理人工智能开发的安全问题是一门既保留好处又防止坏处的艺术。技术对我们社会的威胁不应掉以轻心，但也不应阻碍有助于诊断疾病、加速科学研究和提高生产力的创新的出现。为了把事情做好是值得付出努力的。
关键词：
