一项人工智能法案,为何让硅谷陷入恐慌?| Q福利

AIGC动态1周前发布 ai-front
73 0 0
一项人工智能法案,为何让硅谷陷入恐慌?| Q福利

 

文章摘要


【关 键 词】 人工智能监管加州提案科技公司安全测试

在过去几个月里,硅谷的科技公司们对一项即将通过的法案发出了警告,称其可能会摧毁美国在人工智能领域的领导地位。
加州1047号提案因此诞生,并已通过加州参议院,现正等待加州众议院的进一步审议和修改。
Meta的首席人工智能科学家杨立昆认为,1047号提案将终结加州的技术创新历史。
如果提案通过,硅谷那些在人工智能上投入超过1亿美元的公司将被强制要求进行安全测试,未遵守者将面临高额罚款和刑事指控。
人工智能科学家吴恩达和杨立昆都表示,当前的人工智能并不具备统治欲望,最聪明的人也不一定渴望权力。
提案的编写者Scott Wiener表示,他已经对提案做出了一定的修改,调整了大模型标准,并澄清开发者不需要对开源所造成的负面影响负全责。
提案的本意是希望人们关注人工智能的安全。
然而,意外结果难以预测和预防,即使采取最严格的安全措施,人工智能系统仍可能以有害方式发展。
提案对故意滥用的防范措施较少,这类人不太可能遵守立法要求,且可能在加州管辖范围之外,使得执行提案变得困难。
人工智能的风险是一个持续挑战,可能需要一种“共识”来解决。
李飞飞在自传中提到,推动人工智能发展的动机必须明确地以人为本。
超过70%的研究人员对该技术潜在的滥用风险表示担忧。
杨立昆认为,人类对人工智能的恐惧主要来自人性特质在机器上的投射,统治的意愿与智力无关。
总之,1047号提案引发了关于人工智能监管的广泛讨论,尽管其初衷是确保技术安全,但其实施可能带来的影响和挑战仍需进一步审视和调整。

豆包-智能助手

原文和模型


【原文链接】 阅读原文 [ 2992字 | 12分钟 ]
【原文作者】 AI前线
【摘要模型】 gpt-4o
【摘要评分】 ★★★★★

© 版权声明
讯飞星火大模型

相关文章

星火内容运营大师

暂无评论

暂无评论...