作者：大卫·谢泼德森和安娜·唐
华盛顿/旧金山（路透社）——在科技行业提出反对后，加利福尼亚州州长加文·纽瑟姆周日否决了一项备受争议的人工智能安全法案，称该法案可能会将人工智能公司赶出该州并阻碍创新。
纽瑟姆表示，该法案“没有考虑人工智能系统是否部署在高风险环境中、是否涉及关键决策或敏感数据的使用”，并且将“对最基本的功能应用严格的标准——只要一个大型系统部署它。”
纽瑟姆表示，他已要求生成人工智能方面的顶尖专家帮助加州“开发可行的护栏”，重点是“开发基于经验的、基于科学的轨迹分析”。他还命令国家机构扩大对与人工智能使用相关的潜在灾难性事件风险的评估。
生成式人工智能——可以根据开放式提示创建文本、照片和视频——既让人兴奋，也让人担心它可能会让一些工作变得过时、颠覆选举，并可能压倒人类并产生灾难性影响。
该法案的作者、民主党州参议员斯科特·维纳表示，在人工智能的进步变得难以控制或无法控制之前，有必要立法来保护公众。加州的人工智能行业正在快速发展，一些领导人质疑如果该法案成为法律，这些公司在该州的未来。
维纳周日表示，否决权使加州的安全性降低，并意味着“旨在创造极其强大技术的公司不会面临任何具有约束力的限制。”他补充说，“行业的自愿承诺无法执行，而且很少对公众产生良好的效果。”
纽瑟姆说：“我们不能等到重大灾难发生才采取行动保护公众。”但他补充说，他不同意“我们必须满足于一个没有对人工智能系统和经验轨迹分析提供信息的解决方案”。能力。”
纽瑟姆表示，他将在下次会议期间与立法机构就人工智能立法进行合作。与此同时，美国国会设定保障措施的立法已陷入停滞，拜登政府正在推进监管人工智能监督提案。
纽瑟姆表示，“仅加州的做法很可能是合理的——尤其是在国会没有采取联邦行动的情况下。”
科技行业联盟进步商会赞扬了纽瑟姆的否决，称“加州科技经济一直在竞争和开放的基础上蓬勃发展。”
除此之外，该措施还要求对许多最先进的人工智能模型进行安全测试，这些模型的开发成本超过 1 亿美元，或者需要一定的计算能力。在该州运行的人工智能软件开发人员还需要概述关闭人工智能模型的方法，这实际上是一个终止开关。
该法案将建立一个国家实体来监督所谓“前沿模型”的开发，这些模型的能力超出了最先进的现有模型的能力。
该法案遭到了广泛群体的强烈反对。 Alphabet（纳斯达克股票代码：）旗下的谷歌、微软支持的 OpenAI 和 Meta Platforms（纳斯达克股票代码：）都在开发生成式人工智能模型，他们都表达了对该提案的担忧。
美国国会一些民主党议员，包括众议员南希·佩洛西也表示反对。支持者包括特斯拉（纳斯达克：）首席执行官埃隆·马斯克（Elon Musk），他还经营着一家名为 xAI 的人工智能公司。亚马逊支持的 Anthropic 表示，该法案的好处可能超过成本，但它补充说，仍有一些方面似乎令人担忧或模棱两可。
纽瑟姆单独签署了立法，要求该州评估生成人工智能对加州关键基础设施构成的潜在威胁。
纽瑟姆表示，该州正在分析能源基础设施风险，并之前召集了电力部门提供商，并将在明年与水基础设施提供商以及随后的通信部门进行相同的风险评估。
关键词：
