解读加州AI法案《前沿人工智能模型的安全与保障创新法案》

在人工智能（AI）技术迅猛发展的今天，如何确保AI技术的健康发展和合理应用，成为了全球关注的焦点。美国加利福尼亚州的SB 1047号法案——《前沿人工智能模型的安全与保障创新法案》（以下简称“法案”）正是在这样的背景下应运而生，旨在为先进AI模型建立全面的监管框架。该法案由参议员斯科特·维纳提出，引发了科技行业、政策制定者、AI专家和公众的广泛讨论。

1. 法案背景

加利福尼亚州在人工智能创新和研究方面领先全球，这得益于大大小小的公司，以及我们卓越的公立和私立大学。AI技术，包括生成性AI的最新进展，有潜力催化创新和快速开发一系列对加利福尼亚公民和加利福尼亚经济有益的应用。然而，如果未来人工智能的发展没有适当地受到人类控制，也可能有潜力被用来创造对公共安全和保障的新型威胁。

2. 法案关键内容

2.1 定义

法案对一系列术语进行了定义，包括“高级持续性威胁”、“AI”、“AI安全事故”、“计算集群”、“受监管模型”、“受监管模型衍生物”、“关键伤害”、“关键基础设施”、“开发者”、“微调”、“完全关闭”、“模型权重”、“主体”、“后训练修改”、“安全和保障协议”等。

2.2 开发者责任

法案规定，在开始初步训练一个受监管模型之前，开发者应当执行包括实施安全和保障协议、进行风险评估、确保合规性等一系列操作。此外，开发者还必须每年进行独立的合规审计，并在必要时向总检察长报告任何AI安全事故。

2.3 计算集群运营者的义务

法案要求运营计算集群的个人或实体在客户使用其资源进行可能足以训练受监管模型的活动时，实施书面政策和程序，以确保安全和合规性。

2.4 民事诉讼及救济

法案授权总检察长提起民事诉讼，以追究违反本章规定的行为，并寻求包括民事罚款、禁令或宣告性救济、金钱赔偿、律师费及诉讼成本等救济。

2.5 吹哨人保护

法案保护那些揭露AI模型潜在风险的员工，禁止开发者阻止员工向当局披露信息，或因员工披露信息而对员工进行报复。

3. 立法进展

自2024年2月7日提出以来，SB 1047号法案经历了加州州参议院和州众议院的审议，并在两院中获得了跨党派的支持。目前，法案正等待加州州长加文·纽森的决定，他可以选择签署或否决该法案。

4. 行业批评与支持

尽管法案获得了广泛的支持，但也面临着来自科技行业的一些批评。主要的批评观点包括创新威胁、定义模糊、对开源的影响、监管过度、经济风险等。然而，法案也获得了AI安全专家、部分科技领袖和大多数加州选民的支持。支持者认为法案有助于预防灾难性风险、确保责任、保护公共安全，并在促进创新和确保负责任的AI开发之间取得了平衡。

5. 结论

SB 1047号法案的提出和审议，不仅是加州科技政策的一次重要尝试，也是全球AI立法监管的一次积极探索。无论其最终命运如何，这场围绕法案的辩论都凸显了在维护创新生态系统的同时规范快速发展的AI技术的复杂挑战。随着AI技术的不断发展，如何平衡创新与安全、自由与责任，将是政策制定者、科技行业和社会各界必须共同面对的问题。

在未来，我们期待看到更多的讨论和合作，以确保AI技术能够安全、负责任地发展，为人类社会带来更多的福祉。同时，我们也需要不断地更新和完善AI立法监管的最佳实践，以应对不断变化的技术环境和社会需求。只有这样，我们才能确保AI技术的安全、可靠和负责任的应用，让AI真正成为推动人类社会进步的力量。