为什么伟大不能被计划?亲历者揭秘 OpenAI 崛起的关键

AIGC动态2个月前发布 Founder Park
507 0 0
为什么伟大不能被计划?亲历者揭秘 OpenAI 崛起的关键

 

文章摘要


【关 键 词】 自由探索人工智能通用AI开放性系统创新探索

在探讨如何实现伟大目标的过程中,两位人工智能研究者肯尼斯·斯坦利和乔尔·雷曼提出了一种与传统目标导向方法不同的视角。他们认为,在追求高远目标如通用人工智能(AGI)时,自由探索比严格规划更为有效。这一观点在他们合著的《为什么伟大不能被计划》一书中得到了阐述,并在他们加入OpenAI后的实践中得到了体现。

OpenAI虽然表面上看似一个目标导向的组织,但其实内部充满了开放性的探索。例如,ChatGPT这个意外的成功项目,最初并非公司的主要方向,而是在探索中逐渐发展起来的。OpenAI的CEO Sam Altman也认同这一观点,他强调在训练模型时,虽然指标的提升令人欣喜,但对于发现新的研究范式却并不总是有效。因此,他愿意尝试更多新奇性的探索,即使这意味着长时间的等待。

斯坦利和雷曼的研究起源于他们对人工智能“开放性系统”的兴趣,他们通过实验如图片孵化器和机器人迷宫,发现创新往往来自于非目标驱动的探索。他们认为,无论是在算法、个人还是组织层面,过于遥远的目标更适合通过自由探索来实现。

尽管OpenAI自成立以来就设定了实现AGI的宏伟目标,但斯坦利指出,公司内部实际上进行了许多开放性的探索。他认为,即使在追求AGI的过程中,也需要不断的新奇探索,而不是仅仅依赖于目标导向的方法。

雷曼补充说,OpenAI的成功不仅仅是因为目标导向,而是因为它愿意尝试不同的发展方向。例如,GPT背后的核心技术Transformer架构是由谷歌推出的,而OpenAI则是在此基础上进行探索和发展。

在讨论中,斯坦利和雷曼强调,开放性探索和目标驱动并不是对立的,而是可以相互融合的。他们认为,找到两者之间的平衡是非常微妙的,但这对于推动AGI的发展至关重要。

此外,他们还讨论了当前人工智能领域的竞争态势,指出过度的竞争可能会导致创新的减少,因为公司可能会过于专注于短期目标而忽视了长期的开放性探索。他们建议,为了实现AGI,公司不仅需要改进现有的模型,还需要探索新的路径。

最后,斯坦利和雷曼重申了他们的观点,即“伟大无法被计划”,并认为这一观点在未来很长一段时间内都不会过时。他们认为,社会需要认识到目标导向的局限性,并更加重视开放性探索的价值。

“极客训练营”

原文和模型


【原文链接】 阅读原文 [ 8173字 | 33分钟 ]
【原文作者】 Founder Park
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★

© 版权声明
“绘蛙”

相关文章

暂无评论

暂无评论...