OpenAI 加入了众多科技领袖和政治人物的行列，反对加利福尼亚州提出的一项引起争议的人工智能安全法案。该公司认为，名为 SB 1047 的立法将抑制创新，监管工作应由联邦政府负责。 在致加利福尼亚州参议员斯科特·维纳办公室的一封信中，OpenAI 表达了对法案可能对美国竞争力和国家安全产生“广泛且重大”影响的担忧。
该公司认为，SB 1047 可能会威胁到加利福尼亚州作为人工智能领域全球领导者的地位，导致人才寻求“更好的机会”。 维纳参议员提出的法案旨在为开发超出特定规模和成本门槛的大型人工智能模型的公司设立“常识性安全标准”。这些标准要求公司实施关闭机制，采取“合理的预防措施”以避免灾难性后果，并向加利福尼亚州总检察长提交合规声明。违反规定可能会招致诉讼和民事罚款。
曾在美国空军服役并担任美国国防部联合人工智能中心（JAIC）首任主任的约翰（杰克）·沙纳汉中将认为，该法案“深思熟虑地应对了人工智能对公民社会和国家安全构成的严重风险”，并提供了“实际可行的解决方案”。 安德鲁·C·韦伯阁下——前国防部核、化学和生物防御计划助理部长——表达了对国家安全问题的担忧。 韦伯表示：“如果对手从领先的实验室窃取强大的人工智能系统，这将给所有人带来相当大的风险。
鉴于最先进的人工智能系统开发中潜在的风险，开发者需要采取重要的网络安全预防措施。我很高兴看到 SB 1047 有助于建立必要的保护措施。” SB 1047 遭到了主要科技公司、初创企业和风险投资家的强烈反对，他们认为该法案对于一项新兴技术而言过于严苛，可能会抑制创新并使企业离开该州。OpenAI 同样表达了这些担忧，并有消息透露，由于监管环境的不确定性，该公司已暂停了扩大其旧金山办公室的计划。
维纳参议员为该法案辩护，指出 OpenAI 的信函并未“批评任何具体条款”。他视对人才流失的担忧为“无稽之谈”，并强调该法律适用于在加利福尼亚州经营的所有公司，不论其实际所在地。维纳强调了法案对大型人工智能实验室进行模型灾难性安全风险测试的“非常合理”的要求，这已是许多公司所承诺的实践。 然而，批评者反驳称，强制向政府提交模型细节将妨碍创新。他们还担心诉讼的威胁会阻碍小型开源开发者创办初创公司。
为了回应强烈的反对意见，维纳参议员最近对法案进行了修改，取消了对不合规公司的刑事责任，保护了小型开发者，并移除了提议设立的“前沿模型部门”。 OpenAI 坚持认为，一个明确的联邦框架而非州级监管，对于在确保公共安全的同时保持美国对中国等竞争对手的竞争力至关重要。该公司强调了联邦机构，例如白宫科学和技术政策办公室和商务部，在处理人工智能风险方面的适用性。
维纳参议员承认国会采取行动的理想，但对其可能性持怀疑态度。他将此与加利福尼亚州数据隐私法进行了比较，后者是在联邦未采取行动的情况下通过的，这表明国会的不作为不应妨碍加利福尼亚州发挥领导作用。 加利福尼亚州议会计划本月对 SB 1047 进行投票。若法案通过，将提交给州长加文·纽瑟姆，其对这项立法的立场目前尚不明朗。然而，纽瑟姆已公开表示需要在人工智能创新与风险缓解之间取得平衡。
