加州有争议的人工智能法案通过立法，等待州长签署

加州立法者于周三通过了一项备受争议的人工智能安全法案，之后该法案还需要经过一次程序投票，然后才能交到州长加文·纽瑟姆手中，他必须在 9 月 30 日之前决定是签署该法案还是否决它。

开发生成式人工智能的科技公司（可以用完整的文本、图像或音频来响应提示，并以最少的干预运行重复性任务）在很大程度上对这项名为 SB 1047 的法案犹豫不决，称这可能会将人工智能公司赶出该州并阻碍创新。

包括众议员南希·佩洛西在内的一些美国国会民主党人也对此表示反对。支持者包括特斯拉首席执行官埃隆·马斯克，他还经营着一家名为 xAI 的人工智能公司，并表示支持该法案。

该法案要求对许多最先进的人工智能模型进行安全测试，这些模型的开发成本超过 1 亿美元，或需要一定数量的计算能力。在该州运营的人工智能软件开发商还需要概述在人工智能模型出现问题时关闭它们的方法，这实际上是一个终止开关。

该法案还赋予州检察长在开发商不遵守规定时提起诉讼的权力，特别是在出现持续威胁的情况下，例如人工智能接管电网等政府系统。

此外，该法案还要求开发商聘请第三方审计师来评估他们的安全实践，并为举报人工智能滥用行为的举报人提供额外保护。

该法案的起草人是民主党州参议员斯科特·维纳，他代表旧金山，这里是 OpenAI 和许多开发强大软件的初创企业的所在地。他表示，在人工智能发展变得难以驾驭或无法控制之前，立法对于保护公众是必要的。

风险投资公司 Andreessen Horowitz 的普通合伙人马丁·卡萨多 (Martin Casado) 在投票前表示，他希望纽森会否决该法案。“这是我见过的最广泛的两党反对者，”他说。

Alphabet 旗下的谷歌、微软支持的 OpenAI 和 Meta Platforms 已在致维纳的信中表达了他们的担忧。亚马逊支持的 Anthropic 表示，该法案带来的好处可能大于成本，但它补充说，仍有一些方面似乎令人担忧或模棱两可。