图灵巨头再次决裂!Hinton支持的加州AI限制法案初步通过,LeCun李飞飞吴恩达喊打

AIGC动态2个月前发布 AIera
357 0 0
图灵巨头再次决裂!Hinton支持的加州AI限制法案初步通过,LeCun李飞飞吴恩达喊打

 

文章摘要


【关 键 词】 AI监管技术创新法案争议安全协议立法进程

加州的《前沿人工智能模型安全创新法案》(SB 1047)在众多AI领域专家、科技巨头、初创公司和风险投资者的强烈反对声中,仍然在立法过程中取得了初步进展。该法案旨在通过追究AI系统开发者的责任,预防AI技术导致大规模人员伤亡或超过5亿美元的网络安全事件。尽管面临广泛反对,SB 1047在立法者对提案做出一些妥协后,如减少政府追究AI实验室责任的权力,仍在加州立法机构中相对轻松地通过。

法案的批评者,包括AI领域的知名专家如Yann LeCun、李飞飞和吴恩达,认为SB 1047可能会扼杀开源AI的发展,迫使AI创新暂缓甚至停止。他们通过联名信和公开呼吁,表达了对法案的担忧。然而,也有如Yoshua Bengio和Geoffrey Hinton这样的图灵奖得主,对法案表示强烈支持,认为这是对AI技术进行有效监管的基本要求。

SB 1047规定,AI模型的开发者或公司需负责防止其模型被用于造成重大伤害,如制造大规模杀伤性武器或发起损失巨大的网络攻击。法案特别针对训练成本至少为1亿美元、浮点运算超过10^26次的大型AI模型。此外,法案要求开发者创建风险测试程序,每年聘请第三方审计员评估AI安全实践,并为基于模型的AI产品制定安全协议,包括紧急停止机制。

经过修正,SB 1047的功能有所调整。加州总检察长不能在灾难性事件发生前因安全疏忽起诉AI公司,但可以寻求禁止令,要求公司停止危险操作,并在灾难发生后起诉开发者。法案取消了原计划设立的新政府机构“前沿模型司(FMD)”,转而设立前沿模型委员会,负责设定计算门槛、发布安全指导和审计员法规。法案的措辞也从“合理保证”变为“合理注意”,降低了对开发者的要求。

尽管面临激烈反对,SB 1047在加州立法机构中通过后,将进入议会进行最终投票。如果投票通过,法案将送回参议院投票,之后提交州长决定是否签署成为法律。这一法案的通过与否,将对AI领域的发展产生深远影响。

豆包-智能助手

原文和模型


【原文链接】 阅读原文 [ 1589字 | 7分钟 ]
【原文作者】 新智元
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★☆☆

© 版权声明

相关文章

暂无评论

暂无评论...