SB-1047法案全名是《前沿人工智能模型安全创新法案》，其目的是为开发成本超过1亿美元或拥有一定算力的开发者建立安全准则，保障大规模人工智能模型的安全。
据悉，本周还需要进行另一次程序性投票，加州州长加文·纽瑟姆将在9月30日之前决定是否签署或否决。
尽管欧盟已经颁布了人工智能立法，但美国尚未通过限制使用面部识别软件等风险较高的技术的法律。
1.加州要求人工智能公司进行安全测试
加州议会批准的SB-1047法案要求大型人工智能公司在向公众发布系统之前对其系统进行安全测试。
据路透社报道，SB-1047 还要求开发商聘请第三方审计人员评估其安全实践，并为反对滥用人工智能的举报人提供额外保护。
此外，如果人工智能造成重大伤害（例如死亡或财产损失），加州人工智能法案允许州检察长对人工智能制造商提起诉讼。
随着人形机器人和逼真的图像和视频生成器的引入，加州人工智能法案承认，如果人工智能的发展没有受到人类的适当控制，这项技术未来可能会对公共安全构成新的威胁。
加州人工智能法案的共同起草人、民主党参议员斯科特在一份声明中写道：“国会已经采取历史性举措，积极确保在这一激动人心的新技术发展过程中保护公众利益。”
然而，加州人工智能法案自二月份提出以来就陷入了争议。
美联社称，加州立法的通过引发了关于如何监管这项新技术的激烈争论，人工智能因其潜在的好处和危害而受到广泛关注。
本月，该法案又进行了几处修改，以平息包括苹果、meta 和谷歌在内的科技行业批评者。
他撤销了成立专注于人工智能安全的独立机构的提议，并降低了公司的责任标准，仅在造成实际损害时才追究公司的责任。
新闻机构对 SB-1047 的摘要记录显示，加州 AI 法案已被修订了十一次。
《环球时报》指出，美国加州必须采取行动，防止人工智能带来可预见的风险，同时促进创新。
在他看来，人工智能安全与创新并不互相排斥。
2.加州人工智能法案获支持：确保人工智能发展与公共安全齐头并进
目前，加州最新修改的人工智能法案已经回应了一些此前批评人士的担忧。
埃隆·马斯克本周在其社交媒体上发文称，这是一个“艰难的决定”，但“考虑到所有因素”，他支持对人工智能进行监管以及加州人工智能法案的通过，因为该技术对公众存在潜在风险。
SB-1047 的其他支持者也认为，如果没有保障措施，人工智能可能会带来灾难性的后果。它可能被用于生物战，或通过虚假宣传推翻民主选举和政府。
因人工智能安全问题辞职的蒙特利尔大学计算机科学教授、谷歌高管在写给纽森的信中表示：“政府现在就如何开发和部署这些强大的人工智能系统所做出的选择，可能会对加州当代和后代以及世界各地的人们产生深远的影响。”
3. 弊大于利：业界担心加州人工智能法案或抑制技术创新
加州人工智能法案虽然得到了部分科技界人士的支持，但仍面临行业内部呼吁保护创新发展的强烈反对。
包括前众议院议长南希·佩洛西在内的多位国会议员已致信纽森，警告他该法案可能威胁人工智能的发展，他们认为该技术仍处于起步阶段，现在判断人工智能系统是否安全还为时过早。
佩洛西在上周发表的一封公开信中写道：“国会中的许多人都认为，SB-1047 的出发点是好的，但信息不足。”
他最近还公开反对加州的人工智能法案。
首席战略官Jason Kwon在给《环球时报》的一封信中表示，SB-1047威胁到“加州作为人工智能全球领导者的独特地位”，并补充说它可能“减缓创新的步伐，并导致世界级的工程师和企业家离开该州去其他地方寻找机会”。
对此，他认为 SB-1047 是一项非常合理的法案，要求大型人工智能实验室测试其大型模型是否会带来灾难性的安全风险。“我们全年都在努力与开源倡导者和其他组织一起改进和增强 SB-1047。”
SB-1047 的反对者担心，该法案可能会扼杀创新，阻碍初创企业的发展。他们认为，该法案会让科技巨头不愿与其他公司和软件开发商分享其人工智能的底层软件代码，也就是通常所说的“开源”。
纽瑟姆尚未对该法案表明立场。
结论：加州通过 SB-1047，人工智能监管向前迈进了一步
随着加州立法机构通过SB-1047法案，美国人工智能监管进入新阶段，该法案不仅为加州制定了新的技术标准，还可能影响全球的人工智能监管政策。
通过立法保障技术的安全可靠性，有助于提升公众对人工智能技术的信任度，推动其在更广泛领域的应用。美国加州SB-1047法案的通过，不仅对现有技术的发展提出了挑战，也为行业的长期健康发展奠定了基础。
美国退役空军中将约翰（杰克）表示，SB-1047 为民间社会和国家安全面临的潜在近期风险提供了务实的解决方案，同时也为科技行业和各级政府之间的进一步对话奠定了基础。
若加州AI法案顺利签署，其具体效果和各方面反馈也将成为国际关注的热点，AI技术的发展与监管将在全球的讨论与探索中不断演进，寻求创新与伦理、安全等需求之间的平衡。
本文来自《智东西》，杨蕊茹译，莫英编辑，36氪授权发布。
