加州推进了具有里程碑意义的立法，以规范大型人工智能模型

萨克拉门托，加利福尼亚州(美联社)——周三，为最大的人工智能系统建立国家首个安全措施的重要投票获得通过，这可能为美国对技术飞速发展的监管铺平道路。

该提案旨在减少人工智能带来的潜在风险，将要求公司测试他们的模型，并公开披露他们的安全协议，以防止模型被操纵，例如摧毁国家电网或帮助制造化学武器——专家们表示，随着该行业的快速发展，这种情况在未来是可能发生的。

该法案是数百名议员在最后一周会议期间投票表决的法案之一。州长加文·纽森(Gavin Newsom)将在9月底之前决定是将它们签署成为法律，还是否决它们，还是允许它们在没有他签名的情况下成为法律。

该法案周三在州议会勉强通过，还需要参议院进行最后投票，然后才能送交州长。

支持者表示，它将为美国的大规模人工智能模型制定首批急需的安全基本规则。该法案的目标是需要超过1亿美元的数据来训练的系统。目前还没有人工智能模型达到这个门槛。

共和党议员德文·马西斯(Devon Mathis)周三表示支持该法案，他说:“是时候让大型科技公司遵守某种规则了，不是很多规则，而是一些规则。”“我们最不希望看到的就是电网和供水系统瘫痪。”

该提案由民主党参议员斯科特·维纳(Scott Wiener)起草，遭到了风险投资公司和科技公司的强烈反对，其中包括OpenAI、谷歌和Facebook和Instagram的母公司Meta。他们说，安全法规应该由联邦政府制定，加州的立法针对的是开发者，而不是那些使用和利用人工智能系统造成伤害的人。

一些加州众议院议员也反对该法案，前众议院议长南希·佩洛西称其为“。”

由硅谷资助的左倾行业组织“进步商会”(Chamber of Progress)表示，该法案是“基于科幻小说对人工智能的幻想”。

高级技术政策总监托德·奥博伊尔在周三投票后的一份声明中说:“与现实世界相比，这项法案更像《银翼杀手》或《终结者》。”“我们不应该因为一个理论上的场景而削弱加州的主要经济部门。”

这项立法得到了亚马逊和谷歌支持的人工智能初创公司Anthropic的支持，维纳在本月早些时候调整了法案，纳入了该公司的一些建议。目前的法案取消了对伪证的处罚条款，限制了州检察长起诉违规者的权力，并缩小了一个新的人工智能监管机构的职责。社交媒体平台X的所有者埃隆·马斯克本周也对这一提议表示了支持。

Anthropic在给纽森的一封信中说，该法案对于防止对强大的人工智能系统的灾难性滥用至关重要，“它的好处可能大于成本”。

维纳说，他的立法采取了一种“轻触”的方式。

韦纳在投票后的一份声明中说:“创新和安全可以齐头并进，加州正在引领潮流。”

本周早些时候，他还抨击批评人士认为强大的人工智能模型可能带来灾难性风险是不现实的:“如果他们真的认为这些风险是假的，那么该法案应该没有任何问题。”

维纳的提案是加州议员今年提出的提案之一，旨在建立公众信任，打击算法歧视，并取缔涉及选举或色情内容的深度造假。随着人工智能日益影响美国人的日常生活，州议员试图在不扼杀蓬勃发展的本土产业的情况下，在控制这项技术及其潜在风险之间取得平衡。

全球前50强人工智能公司中有35家位于加州，加州一直是人工智能技术的早期采用者，可能很快就会解决高速公路拥堵和道路安全等问题。

今年夏天早些时候，纽森拒绝就该措施发表意见，他曾警告不要对人工智能进行过度监管。