发布日期：2024-08-19 01:42    点击次数：143

（图片开始：AI生成的图像）【YSN-150】下級生 僕の彼女は、Gカップ めぐみ

北京时代8月16日，饱受争议的好意思国加州《前沿AI模子安全翻新法案》（后称加州AI安全法案SB 1047）在大幅度削弱关系条件之后，最终班师通过加州众议院拨款委员会的审核。

加州筹商员维纳团队向TechCrunch暗示，该法案增多了 AI 公司 Anthropic 和其他反对者残暴的几项修正案，最终在加州拨款委员会取得通过，朝着成为法律迈出了重要一步，其中进行了几项环节修改。

“咱们收受了提议的一系列特别合理的修正案，我确信咱们如故惩办了 Anthropic 和业内很多其他东谈主抒发的中枢担忧，”维纳筹商员在声明中暗示。“这些修正案竖立在我之前对 SB 1047 作念出的首要修改的基础上，以稳妥开源社区的专有需求，而开源社区是翻新的重要起源。”

SB 1047 仍旨在通过讲究征战者的使命来驻扎大型 AI 系统变成多半东谈主员死亡或变成耗费卓著 5 亿好意思元的汇集安全事件。关联词，该法案咫尺赋予加州政府更少的讲究 AI 实验室使命的权力。而在国度层面监管法律难产的困局中，这成为了好意思国在AI监管上迈出的重要一步。

关联词，李飞飞、杨立昆等AI行业部分东谈主士觉得，这最终将会挫伤加州乃至交意思国在AI领域的最初地位。数百名创业者签署了孵化器YC撰写的反对信，加州的100多位学界东谈主士也发文反对，风投契构a16z专门竖立网站细数法案六宗罪。咫尺，好意思国各地王人在辩论很多 AI 法案，但加州的《前沿东谈主工智能模子安全翻新法案》已成为最具争议的法案之一。

对国内企业来说，法案要求云服务提供商采集客户信息、IP地址、支付相貌等信息，这便利了监管部门的溯源服务。若后续经管进一步收紧，这可能会成为部分使用外洋算力进行测验的中国AI企业面对的监管风险。

那么如今，加州AI法案取得通过，关于中好意思 AI 行业影响几何？钛媒体AGI梳理六个问题和复兴，解说这一法案和背后一些信息。

一、加州 AI 法案有哪些新的遏抑？主要起什么作用？

加州 AI 法案SB 1047试图驻扎大型 AI 模子被用于对东谈主类变成“严重伤害”。

该法案列举了“严重危害”的例子。举例，不良活动者使用 AI 模子制造刀兵，变成多半东谈主员伤一火，或指令 AI 模子策动汇集报复，变成卓著 5 亿好意思元的耗费（比较之下，CrowdStrike 中断猜度变成的耗费卓著50 亿好意思元）。该法案要求征战者（即征战模子的公司）实施裕如的安全契约，以驻扎此类效果。

SB 1047的司法只适用于寰宇上最大的 AI 模子：本钱至少为 1 亿好意思元，测验时代使用 10^26 FLOPS 的模子——这是宏大的缱绻量，但 OpenAI 首席实行官 Sam Altman 暗示，GPT-4 的测验本钱大致是这样多。这些门槛不错左证需要提高。

咫尺，很少有公司征战出裕如大的大众 AI 产物来知足这些要求，但 OpenAI、谷歌和微软等科技巨头可能很快就会这样作念。AI 模子（现实上是识别和预测数据款式的大型统计引擎）频繁跟着边界的扩大而变得愈加准确，很多东谈主预测这一趋势将抓续下去。马克·扎克伯格最近暗示，下一代 Meta 的 Llama 将需要 10 倍以上的缱绻能力，这将使其受到 SB 1047 的管辖。

最值得注重的是，该法案不再允许加州总放哨长在不欢乐事件发生前告状 AI 智能公司毅然安全要领。这是 Anthropic 残暴的建议。

相背，加州总放哨长不错寻求禁令赠给，要求公司罢手其觉得危境的某项操作，况兼如果 AI 模子如实导致了不欢乐性事件，加州总放哨长仍然不错告状 AI 征战商。

二、谁来实行法案？何如实行？

咫尺新的加州 AI 法案如故告示，不再竖立前沿模子部门 (FMD)机构。关联词，该法案仍然竖立了前沿模子委员会——FMD 的中枢——并将其置于现存的政府运营机构内。事实上，该委员会咫尺边界更大，有9东谈主而不是5东谈主。前沿模子委员会仍将为涵盖的模子设定缱绻阈值，发布安全指南并为审计东谈主员发布司法。

修正后的法案最大的调遣是，不再允许加州总放哨长在不欢乐性事件发生前告状AI企业忽视安全问题的活动。原有法案章程，只须审计员发现AI企业在普通运营中存在作恶活动，企业就有可能被告状。这符号着法案的监管要点升沉为现实危害，也将减轻企业的合规压力。

终末，该法案还章程，如果模子公司里面职工试图向加州总放哨长线路关联不安全的 AI 模子的信息，则将为职工提供举报东谈主保护。

多数好意思国科技企业和AI创企王人在加州运营，将受该法案遏抑。具体来看，这一法案主要关注“前沿AI模子”，只好测验模子算力本钱超1亿好意思元的征战商才会面对监管要求，现存模子均不在监管范围内。改日Llama 4和GPT-5偶然会是其主要监管对象。

三、作恶活动何如刑事使命？罚金1000万好意思元起，可判决关闭或删除模子

法案清晰，模子征战公司的首席技艺官必须向 FMD 提交年度认证，评估其 AI 模子的潜在风险、其安全契约的有用性以及公司何如遵从 SB 1047 的形色。与非法奉告近似，如果发生“AI 安全事件”，征战商必须在了解事件后 72 小时内向 FMD 敷陈。

如果征战者未能遵从任何这些章程，SB 1047 允许加州总放哨长对征战者拿起民事诉讼。关于一个破耗 1 亿好意思元测验的模子，第一次非法的罚金可能高达 1000 万好意思元，后续非法的罚金高达 3000 万好意思元。跟着 AI 模子变得越来越崇高，罚金率也会随之增多。

激萌系列

一朝出现作恶活动，企业可能面对1000万-3000万好意思元不等的罚金，这一金额还将跟着模子测验本钱的增多水长船高。

另外，若模子征战商和缱绻集群运营者无法遵从上述章程，并变成宏大危害，若判定如实存在作恶活动，法院可能会判处下类处罚：

1、针对2026年及之后的作恶活动，初度作恶的实体将被处以云缱绻市集测验范围内模子平均本钱10%以内的罚金，关于后续作恶活动，罚金金额不卓著这一册钱的30%（按法案中对范围内模子界说的1亿好意思元门槛缱绻，初度作恶的罚金至少为1000万好意思元）。

2、法院还可告示遴荐禁令，包括但不限于修改、全面关闭或删除范围内模子过火征战商所适度的通盘生息品。

不外，修改、关闭和删除范围内模子的处罚，仅在其变成他东谈主死亡、严重东谈主身伤害、财产耗费或严重的大众安全胁制时才可使用。

四、谁在反对法案？为何反对？

尽管该法案遭到了好意思国国会议员、知名 AI 考虑东谈主员、大型科技公司和风险投资家的横蛮反对，但它照旧相抵消弱地在加州立法机构取得了通过。这些修正案可能会安抚 SB 1047 的反对者，并为州长纽森提供一份争议较少的法案，他不错在不失去 AI 行业维持的情况下签署成为法律。

如今，越来越多的科技东谈主士反对加州 AI 法案。

Anthropic方面暗示，它正在审查 SB 1047 的变更，然后再作念出决定。此前该公司的矫正建议并非一齐王人被维纳筹商员经受。

知名风投契构a16z则在官网列出他们眼中加州AI安全法案的“6宗罪”：

该法案将对加州的AI投资和发展带来寒蝉效应。该法案依照并不解确的收尾对征战者/征战商进行处罚。关系测试尚不存在。该法案迂缓的界说加上严格的法律使命，给AI征战商和企业主带来了宏大的不笃定性和经济风险。该法案可能迫使AI考虑转入地下，意外中裁减AI系统的安全性。该法案对开源和初创企业征战者们变成了系统性的不利，而他们是加州翻新和小微企业的中枢。该法案扼制了好意思国的AI考虑与翻新，给中国等国度在AI方面卓著好意思国提供了契机。

a16z创始合鼓动谈主安德里森·霍洛维茨（Andreessen Horowitz)觉得，加州 AI 法案虽出于好意，但因误导可能会削弱好意思国科技产业，正大技艺改日正处于环节十字街头之时。好意思国需要指点者意志到，学生妹av咫尺是遴荐精通且调处的 AI 监管行动的环节时刻。

斯坦福大学拔擢李飞飞则在《钞票》杂志网站上发文详确解说反对根由，觉得这一法案的主要问题有4点：过度刑事使命征战者，因此有可能抹杀翻新；“拆开开关”将连接开源征战服务，恣虐开源社区；削弱学术界和大众部门的AI考虑，还有可能阻碍学术界取得更多资金；并未惩办AI越过带来的潜在危害，如偏见或深度伪造问题。

此外，YC孵化器维持的数百家创企联名觉得，这一法案可能会对行业和征战者生态带来四个负面影响：

法案应刑事使命糜费器具者，而非征战者。征战者时时难以预测模子的可能欺诈，伪证罪的设定让路发者可能因此坐牢。监管门槛无法充分捕捉技艺发展的动态。非加州公司将能更解放地发展AI技艺，这可能影响加州的翻新。“Kill Switch（指征战商关闭模子的能力）”可能会阻碍开源AI的征战，扼制了开源的谐和性和透明度。法案的表述较为迂缓，很可能被法官舒缓解说。

Meta首席科学家、2018年图灵奖得主杨立昆（Yann LeCun）也反对这一法案，他担忧如果未能准确评估范围内模子的风险，其中的连带使命条件如故标明，开源平台可能需要承担使命。

斯坦福大学缱绻机科学系和电气工程系的客座拔擢吴恩达（Andrew Ng）发文指出，好意思国加州SB-1047法案将抹杀开源大模子发展。法案应该监管的是AI欺诈枢纽而不是大模子自己。

他仍然觉得好意思国加州拟定的SB 1047法案对开源大模子带来的宏大伤害感到恐慌。这个法案犯了一个严重根人道演叨，应该监管的是通过大模子征战的生成式AI产物，而不是开源大模子自己。

吴恩达还觉得，SB 1047法案要求征战东谈主员保护开源大模子的乱用、修改以及征战违警的生息成式AI产物。但征战东谈主员应该何如保护、何如界定这些活动还特别迂缓，莫得一个详确的条例。

是以，吴恩达横蛮号令各人来抵制SB 1047法案，他觉得果然如果通过了将会对开源大模子的翻新带来毁掉性打击，同期加州也会失去AI翻新的能源。

五、谁在维持法案？为何要维持？

联系于反对声息，咫尺也有部分科技东谈主士关于加州 AI 法案抓有维持想法的。

其中，天然加州州长纽森尚未公开评述 SB 1047，但他此前曾暗示远程于加州的 AI 翻新。

同期，图灵奖得主、“AI教父”杰弗里·辛顿（Geoffrey Hinton），图灵奖得主约书亚·本吉奥（Yoshua Bengio），哈佛大学法学院拔擢劳伦斯·莱西格（Lawrence Lessig）和广受迎接的AI教科书《东谈主工智能：当代方法》作家、加州大学伯克利分校拔擢斯图亚特·拉塞尔（Stuart Russell）联名写信给加州立法机构，抒发他们对加州AI安全法案的“强力维持”。

这4位学者指出，他们对AI风险深感担忧，而加州的AI安全法案是有用监管该技艺的最低要求。“法案莫得许可证轨制，不要求公司在培训或部署模子之前取得政府机构的许可。它依赖于公司对风险的自我评估，以致在发生不欢乐时也不要求公司承担严格的使命。联系于咱们面对的风险，这是一项特别宽松的立法。咫尺监管AI的法律还莫得监管三明治店的严格，取消该法案的基人道要领将是一个历史性的演叨——1年后，当下一代更为强劲的AI系统发布时，这一演叨将变得愈加显着。”

“四十年前，当我在测验 ChatGPT 等器具背后的初版 AI 算法时，包括我我方在内，莫得东谈主会预测到 AI 会取得如斯大的越过。强劲的 AI 系统治来了令东谈主难以置信的但愿，但风险也特别简直，应该特别崇拜地对待。SB 1047遴荐了一种特别精通的方法来均衡这些担忧。我仍然对 AI 通过改进科学和医学来赞成人命的后劲充满关爱，但咱们必须制定真确有劲的立法来应付风险。加州是这项技艺的最先，因为它是这项技艺的升起之地。”辛顿暗示。

四位学者还在信中强调，不管这些风险是杞东谈主忧天照旧简直存在，关系方王人有必要承担减轻风险的使命。而“算作最了解这些系统的一群大众”，他们觉得这些风险是可能存在况兼裕如首要的，咱们有必要对此进行安全测试和知识性的防卫要领。

加州筹商员斯科特·维纳 (Scott Wiener) 是该法案的草拟东谈主，他暗示，SB 1047 旨在吸取往时应酬媒体和数据闪避战术失败的履历，在为时已晚之前保护公民的安全。

“咱们对待科技的格调是，恭候危害发生，然后无法可想，”维纳说。“咱们不要等着赖事发生。咱们要抢在它之前遴荐行动。”

征战者不会因无法预测模子风险而坐牢。最先，初创企业征战者和学界无须总结，因为法案不适用于他们。其次，法案中的伪证罪条件只是在征战者“特意”作念出伪善述说时才会告成，对模子能力无心的演叨评判不会触发伪证罪条件（该条件已在今天修正案中被删除）。法案并未带来全新的使命。在现存的法律下，如果模子变成伤害，模子征战商和个东谈主征战者王人有可能被告状，况兼适用于通盘能力的模子，通盘受伤害的个体王人可告状。加州的新法案不仅罢了了监管范围，还将告状的权力罢了在加州总放哨长和劳工委员会两个实体上。法案不会抹杀加州翻新。该法案适用于通盘在加州开展业务的企业，即便他们将总部挪出加州，也应该遵从关系章程（智东西注：加州按GDP缱绻是寰宇第5大经济体，具备完竣的科技生态，科技企业很难与加州脱钩）。当加州通过数据闪避法、环境保护法时，有很多东谈主声称这将阻碍翻新，但事实是加州咫尺仍然在引颈翻新。拆开开关与安全评估要求不会阻碍开源AI的征战。法案咫尺如故修改并加强了对开源AI的保护。法案中对模子迫切停机的要求只是适用于征战东谈主员适度范围内的模子，不包括不受适度的开源模子。法案还竖立了一个新的参谋委员会，以倡导和维持安全可靠的开源AI征战服务。

左证法案，即使一家公司在德克萨斯州或法国测验了价值 1 亿好意思元的模子，只须它在加利福尼亚州开展业务，它就会受到 SB 1047 的保护。维纳暗示，国会“在往时 25 年里险些莫得制定任何干联技艺的立法”，因此他觉得加利福尼亚州应该在这里创始前例。

东谈主工智能安全中心主任 Dan Hendrycks暗示：“这一法案恰当加州乃至交意思国产业的永恒利益，因为首要安全事故可能是进一步发展的最大贫窭。”

多名OpenAI前职工也维持这一法案，包括主动放胆OpenAI期权从而计划解放品评OpenAI公司权力的丹尼尔·科科塔约洛（Daniel Kokotajlo）。他觉得，法案品评者称AI越过会停滞的说法粗略率不会发生。

估值百亿好意思金的AI独角兽Notion创始东谈主西蒙·拉斯特（Simon Last）撰文称，他维持法案，觉得在联邦级AI法律难产的情况下，加州算作全好意思乃至全球的科技中心，职守注重要的使命。他觉得对模子的监管，在进步其安全性的同期也便利了在基础模子上构建产物的AI创企，这将减轻中小企业的牵扯。

东谈主工智能安全行动基金中心高档战术参谋人 Nathan Calvin 暗示：“SB 1047 的磋议是——况兼一直是——提高 AI 安全性，同期仍允许通盘这个词生态系统进行翻新。新的修正案将维持这一磋议。”

六、下一步何如发展？

SB 1047 法案咫尺将提交集州议会进行最终表决。如果该法案在议会取得通过，由于最新的修正案，该法案将需要交回加州筹商院进行表决。如果该法案同期取得通过，它将被提交到加州州长纽森的办公桌上，他将在 8 月底之前最终决定是否签署该法案。

维纳暗示，他尚未与纽森谈过该法案，也不知谈他的态度。

（本文首发于钛媒体App，作家｜林志佳，裁剪｜胡润峰）

---