“AI教母”李飞飞最新发文:加州 AI 安全法案将损害美国 AI 生态系统|钛媒体AGI

AIGC动态4个月前发布 TMTPOSTAGI
741 0 0
“AI教母”李飞飞最新发文:加州 AI 安全法案将损害美国 AI 生态系统|钛媒体AGI

 

文章摘要


【关 键 词】 AI安全法案创新限制开源风险监管争议AI政策

美国加州即将实施的AI安全法案SB-1047引发了业界广泛关注和争议。美国斯坦福大学教授、AI领域著名学者李飞飞在《Fortune》撰文指出,该法案将对开发者、学术界乃至整个美国AI生态系统造成伤害,但并不能有效解决AI潜在的危害。

SB-1047法案要求AI开发者证明其模型不会被用于造成伤害,否则将面临严重处罚。该法案还规定了连带责任,即如果基于某个模型的衍生版本发生安全事故,责任将归属于第一开发者。此外,法案还要求开发者提交客户的所有资料,并进行用户行为评估。

多位业界知名人士对该法案表示反对。图灵奖得主、Meta首席AI科学家杨立昆警告称,该法案将使开源AI平台面临巨大风险,AI初创公司可能会因此倒闭。投资机构a16z创始合伙人霍洛维茨认为,该法案虽出于好意,但可能会削弱美国科技产业。斯坦福大学教授吴恩达指出,应该监管的是AI应用程序而不是大模型本身。

李飞飞给出了四点理由,认为SB-1047法案将产生严重后果:

1. 过度惩罚开发者,扼杀创新。法案将迫使开发者采取防御措施,限制其模型的潜在用途。

2. 束缚开源开发。法案要求所有超过一定阈值的模型都包含”终止开关”,这将摧毁开源社区,限制创新。

3. 削弱公共部门和学术界的AI研究。法案将限制学术界获取模型和数据的能力,影响人才培养和研究进展。

4. 并未真正解决AI发展的潜在危害,如偏见和深度伪造问题。法案设定的监管门槛过于武断,无法提供有效保障。

李飞飞强调,AI政策必须鼓励创新,设置适当的限制,并减轻这些限制的影响。SB-1047法案未达到这些标准,她建议与法案起草人合作,共同制定真正建设以技术为主导、以人为本的未来社会的AI立法。

加州作为美国AI生态系统的核心,其立法将对全国产生深远影响。业界普遍呼吁美国采取明智且统一的AI监管行动,以推动AI教育、研究和发展,同时确保AI的安全有效应用。

“极客训练营”

原文和模型


【原文链接】 阅读原文 [ 2100字 | 9分钟 ]
【原文作者】 钛媒体AGI
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★

© 版权声明
“绘蛙”

相关文章

暂无评论

暂无评论...