加州州长否决人工智能法案
加州州长加文·纽瑟姆否决了一项全国首创的州法案，该法案原本可能成为美国最具影响力的人工智能监管法规。
法案内容及目的
该法案被称为《前沿人工智能模型的安全与可靠创新法案》，要求花费超过 1 亿美元训练人工智能模型的公司采取安全措施，旨在防止人工智能可能造成的诸如大规模伤亡事件等危害，包括设置“终止开关”以彻底关闭失控模型。
各方反应
加州是一些人工智能巨头的所在地，然而，纽瑟姆在周日下午的否决信中称，SB 1047 虽用心良苦，但未考虑人工智能系统是否部署在高风险环境、涉及关键决策或使用敏感数据。该法案对即使是最基本的功能也适用严格标准。
随着否决，纽瑟姆宣布与包括“人工智能教母”李飞飞在内的顶尖专家合作，为通用人工智能的部署设定保障措施，并命令州机构扩大对该技术相关风险的评估。
监管该技术一直是硅谷及其他地区的热点问题。OpenAI、谷歌和 Meta 公开反对该法案，Anthropic 在建议对其原始版本进行修正后谨慎支持。
尽管遭到大型科技公司的抵制，但本月早些时候，来自谷歌、Meta、OpenAI 和 Anthropic 的 100 多名现任和前任员工呼吁纽瑟姆签署该法案，表达了对“最强大的人工智能模型可能很快构成严重风险”的担忧。超过 125 名好莱坞演员、导演和娱乐界领袖也敦促纽瑟姆签署该法案。
SB 1047 必须在鼓励快速变化的行业创新的同时确保技术的负责任使用之间找到平衡。
支持者包括拥有大型人工智能模型公司 xAI 的亿万富翁科技首席执行官埃隆·马斯克，以及所谓的“人工智能教父”约书亚·本吉奥和杰弗里·辛顿。
该法案的主要作者加利福尼亚州参议员斯科特·维纳称其为针对监管不足的技术的合理框架。但维纳对短期内出台全国性的人工智能安全法案不抱希望。
尽管该法案在 8 月在州议会和参议院获得通过，但面临了来自加利福尼亚州民主党的一些政治反对。
纽瑟姆在上个月签署了 17 项与人工智能相关的法案，旨在应对一些即时的危险，而 SB 1047 着眼于先进模型带来的一些极端风险。
周二，拜登总统在联合国大会上呼吁世界领导人建立保护人类生命的人工智能标准。
原创文章，作者：讯知在线，如若转载，请注明出处：http://m.xzxci.cn/2024/09/30/2748.shtml
