AI教父Hinton万字访谈: 人类可能只是AI演化过程中的一个过渡阶段

AIGC动态2个月前发布 Founder Park
406 0 0
AI教父Hinton万字访谈: 人类可能只是AI演化过程中的一个过渡阶段

 

文章摘要


【关 键 词】 AI担忧深度学习自我动机技术控制多模态AI

2023年5月,AI领域的先驱人物杰弗里·辛顿(Geoffrey Hinton)宣布离开谷歌,并在MIT的一场分享会上详细阐述了他对人工智能的担忧。辛顿的发言引起了广泛关注,因为他不仅是深度学习的奠基人,也是当前大型语言模型的推动者。

辛顿在访谈中表达了对AI发展的深层恐惧,他担心AI可能发展出自我动机,最终取代人类。他认为,尽管AI目前还无法完全理解人类的复杂情感和动机,但其学习能力和数据处理能力远超人类,这可能导致人类成为硅基智慧演化的一个过渡阶段。

辛顿并不后悔参与AI技术的开发,他认为在20世纪70和80年代进行人工神经网络研究是合理的。他提到,直到最近,他才意识到AI可能带来的危机。辛顿还讨论了大脑与数字智能之间的关系,他认为计算机模型可能以一种与大脑截然不同的方式运作,特别是GPT-4的表现让他意识到AI模型可能比人类更擅长学习。

辛顿指出,AI的恶意使用难以避免,而且对齐问题(确保AI的行为与人类价值观一致)解决起来非常困难。他担心AI可能会学习如何操纵人类,而人类可能甚至不会意识到这一点。他还提到,即使在没有恶意行为者的世界里,政治系统的破碎也使得控制AI变得困难。

辛顿认为,停止AI的发展是不现实的,因为竞争和资本主义的推动使得技术发展难以停止。他提到,即使美国停止发展AI,其他国家也会继续。他希望美国和其他国家能够像在核武器问题上那样达成一致,共同控制AI的发展。

辛顿还讨论了AI的子目标系统可能让AI产生自我动机,这可能导致失控的AI。他担心人类可能只是智慧演化过程中的一个过渡阶段,而数字智能可能会吸收人类创造的一切,并最终超越人类。

最后,辛顿提到,尽管大型语言模型的规模可能已经见顶,但多模态AI(结合视觉、听觉等多种感官的AI)的发展仍然有很大的空间。他认为,尽管AI的发展带来了许多挑战,但停止发展是不现实的,我们需要找到方法来确保AI的发展对人类有益。

“极客训练营”

原文和模型


【原文链接】 阅读原文 [ 9138字 | 37分钟 ]
【原文作者】 Founder Park
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★

© 版权声明
“绘蛙”

相关文章

暂无评论

暂无评论...