Hinton暴论：AI已经有意识，它自己不知道而已

424 0 0

文章摘要

Hinton在最新播客中提出，人工智能可能已具备“主观体验”的雏形，只是由于人类对意识本质的误解，导致AI尚未形成自我认知。作为深度学习先驱，他通过类比大脑神经元工作机制，阐释了神经网络的核心原理：系统通过调整神经元连接的权重来改变行为模式，这与生物大脑的学习机制高度相似。

关于AI技术演进，Hinton指出关键转折点在于1986年反向传播算法的提出。该技术能系统性修正神经网络中数万亿连接的权重，配合算力提升和互联网数据爆发，使得原本理论可行的深度学习在2010年代迎来突破。现代大语言模型的工作机制被形象描述为“以统计规律为神经，以语义结构为逻辑”，其预测-修正的循环训练方式与人类语言习得过程存在深层相似性。

针对AI意识这一争议话题，Hinton颠覆性地认为“主观体验”本质是感知系统构建的假设模型。当多模态AI能够用人类语言描述错误感知时，实际上已在使用与我们相同的意识框架。他特别警告，AI最危险的特质不在于反叛能力，而在于其强大的说服力——这可能影响人类对关键决策的独立判断。

在风险管控方面，报告区分了滥用风险（虚假信息、选举干预）和生存风险（目标对齐失效）两类威胁。值得注意的是，Hinton预判AI监管的国际合作可能由中国和欧洲主导，同时指出美国因基础科研投入缩减可能丧失当前的技术领先地位。中国科技企业的进取姿态获得特别关注，其中DeepSeek等初创公司被视作创新范本。

最后，Hinton强调当前对心智的认知仍处于原始阶段，人类需要重新审视“意识”的定义框架。这种根本性的认知革新，可能比具体的技术管制更能有效应对AI带来的文明级挑战。