我为什么离开OpenAI?六年元老发离职长文:AGI将至,我们远没准备好

AIGC动态4周前发布 AIera
256 0 0
我为什么离开OpenAI?六年元老发离职长文:AGI将至,我们远没准备好

 

文章摘要


【关 键 词】 AI政策离职原因独立研究AGI前景工作未来

OpenAI的研究主管Miles Brundage宣布离职,结束了他在该公司6年的职业生涯。Brundage在一篇长文中详细解释了他的离职原因,包括寻求更多时间研究自己认为重要的课题、更独立地发表观点和作品,以及减少对OpenAI的偏见。他计划加入或创办非营利组织,专注于AI政策研究和倡导。

Brundage认为,从行业外部影响AI的发展更为有效,这与Geoffrey Hinton离开谷歌的原因相似。他指出,本职工作占据了他几乎所有时间,难以从事自己认为重要的研究。此外,OpenAI的成果发布前需要从多个角度审查,限制了某些主题的发表。尽管他不完全反对OpenAI的出版物审查立场,但认为公司目前施加的限制过多。

Brundage还提到,作为OpenAI的一部分,很难对公司保持公正,这会影响外界对他的观点和研究的看法。他强调,在政策对话中,需要更多独立于行业的声音,他计划成为其中之一。

在OpenAI,Brundage认为自己作为”AGI准备状态高级顾问”的工作已经完成了大部分。他向高管和董事会详细介绍了OpenAI需要做什么以及差距在哪里。他认为自己在外部能更有效地推动世界准备好有效管理AI能力。

Brundage认为,对于即将到来的AGI,OpenAI或任何其他前沿实验室都还没有准备好,这个世界也还没有准备好。但他不认为这种”没准备好”的状态与OpenAI领导层的声明相冲突。他暗示,尽管存在差距,但我们仍可以在相关时间点步入正轨,他将在余下的职业生涯中致力于人工智能政策。

Brundage对AI政策持谨慎和批判态度,但对AGI前景持乐观态度。他认为,未来几年内,人工智能可能实现足够的经济增长,如果制定适当的政策确保公平分配,人类就能实现高生活水平的提前退休。但短期内,AI可能会抢走一些迫切需要工作的人的机会,尤其是那些可以远程完成的、容易自动化的任务。

Brundage认为,人类最终应该摆脱为谋生而工作的义务,这也为构建AI和AGI提供了最强有力的论据之一。从长远来看,有些人可能会继续工作,但不会像现在这样有如此迫切的激励因素。一个”后工作世界”的风险之一就是文明的停滞,但我们目前还没有在政治、文化或其他方面为此做好准备,需要更多的思考、辩论和政策讨论。

“极客训练营”

原文和模型


【原文链接】 阅读原文 [ 2500字 | 10分钟 ]
【原文作者】 新智元
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★

© 版权声明
“绘蛙”

相关文章

暂无评论

暂无评论...