纽森表示,该法案“没有考虑人工智能系统是否部署在高风险环境中、涉及关键决策或使用敏感数据”,并且会“对即使是最基本的功能也适用严格标准——只要是一个大型系统在部署它”。 纽森表示,他已邀请生成式人工智能领域的顶尖专家帮助加利福尼亚“制定可行的防护措施”,重点是“进行基于经验和科学的轨迹分析”。
他还命令州机构扩大对与人工智能使用相关的潜在灾难性事件风险的评估。 生成式人工智能——能够响应开放式提示创建文本、照片和视频——既引发了兴奋,也引发了人们的担忧,担心它可能会使一些工作过时、颠覆选举,并有可能超越人类并产生灾难性影响。
该法案的作者、民主党州参议员斯科特·维纳表示,在人工智能的进步变得难以驾驭或无法控制之前,立法对于保护公众是必要的。人工智能行业在加利福尼亚发展迅速,一些领导人质疑如果该法案成为法律,这些公司在该州的未来。
维纳在周日表示,否决该法案使加利福尼亚变得不那么安全,并意味着“旨在创造极其强大技术的公司将不会面临有约束力的限制”。他还补充说:“来自行业的自愿承诺不可强制执行,并且很少对公众有利。” “我们不能等到重大灾难发生才采取行动保护公众,”纽森说,但他补充说,他不同意“我们必须接受一个没有基于对人工智能系统和能力进行经验轨迹分析的解决方案”。 纽森表示,他将在下一届会议期间与立法机构就人工智能立法进行合作。
与此同时,美国国会制定保障措施的立法已经停滞,拜登政府正在推进人工智能监管监督提案。 纽森说:“仅在加利福尼亚采取的方法可能是有道理的——尤其是在国会没有采取联邦行动的情况下。”科技行业联盟进步商会赞扬了纽森的否决,称“加利福尼亚的科技经济一直依靠竞争和开放蓬勃发展”。 除其他事项外,该措施将要求对许多开发成本超过 1 亿美元或需要一定计算能力的最先进人工智能模型进行安全测试。
在该州运营的人工智能软件开发商还需要概述关闭人工智能模型的方法,实际上就是一个“终止开关”。 该法案将设立一个州实体来监督所谓“前沿模型”的开发,这些模型将超越现有最先进模型的能力。 该法案遭到了广泛群体的强烈反对。Alphabet 的 Google、由 Microsoft 支持的 OpenAI 和 Meta Platforms,所有这些都在开发生成式人工智能模型的公司,都对该提案表示了担忧。
美国国会中的一些民主党人,包括众议员南希·佩洛西,也反对该法案。支持者包括特斯拉首席执行官埃隆·马斯克,他还经营着一家名为 xAI 的人工智能公司。由 Amazon 支持的 Anthropic 表示,该法案的好处可能大于成本,但它补充说,仍有一些方面似乎令人担忧或不明确。 纽森分别签署了一项立法,要求该州评估生成式人工智能对加利福尼亚关键基础设施构成的潜在威胁。
纽森说,该州正在分析能源基础设施风险,此前召集了电力部门供应商,并将在明年与水利基础设施供应商进行同样的风险评估,之后还将对通信部门进行评估。