加州正推进一项名为SB 1047的法案，旨在监管人工智能模型，确保其安全开发。该法案要求高成本或高算力的AI开发者采取预防措施，如测试、防护黑客攻击及保护举报人等。法案由民主党参议员斯科特·维纳发起，他认为在联邦层面停滞不前的情况下，加州应主动应对AI带来的风险并鼓励创新。法案最新修订版已调整，缩小了民事处罚范围，放宽了部分措辞，并取消了伪证相关的刑事责任。
尽管存在争议，法案获得了一些人工智能领域知名人物的支持，如“人工智能教父”杰弗里·辛顿和约书亚·本吉奥，他们认同法案在平衡风险与创新方面的智慧。美国人工智能安全中心创始人丹·亨德里克也认为，这将促使大型科技公司清除技术隐患。
然而，反对声音同样强烈。斯坦福大学教授李飞飞等学者及OpenAI等公司担心，该法案可能阻碍初创企业发展，加重开发者责任，限制创新，并未有效解决偏见和深度伪造等问题。OpenAI警告，法案可能削弱加州在全球AI领域的领导地位。批评者还指出，法案对新兴领域采取惩罚性措施可能抑制创新，包括前众议院议长佩洛西在内的多位民主党议员表达了对该法案的忧虑。
面对争议，加州立法者虽已对SB 1047法案做出重大修改，但仍未能完全赢得硅谷重要AI实验室的支持。目前，该法案正等待加州议会的最终投票，其命运预计将在月底前明朗化，加州州长纽森的决定备受瞩目。
