马斯克亲自点名Karpathy迎战Grok 5！别神话LLM，AGI还要等十年

60 0 0

文章摘要

OpenAI创始成员、特斯拉前深度学习负责人Karpathy提出，通用人工智能（AGI）的实现仍需约10年时间。尽管当前人工智能技术取得显著进展，但Karpathy强调，AGI的发展仍面临多重挑战，包括强化学习信号稀疏、模型崩塌风险、评估环境不足以及系统集成与安全等问题。他认为，虽然通向AGI的路径已经显现，但这条道路充满技术难题，需要长期投入与突破。

Karpathy对AGI的时间表持“乐观但不煽情”的态度，认为10年是一个合理的预测。这一观点相较于当前行业对AGI的狂热预期更为保守，但也比彻底怀疑论者更为积极。他指出，大语言模型（LLM）虽已取得重大进展，但距离能够在任意岗位上超越人类的AGI仍有显著差距。这一差距不仅涉及技术层面的突破，还包括社会协同、安全防护以及物理世界交互等复杂问题。

在技术层面，Karpathy对强化学习（RL）的局限性提出了尖锐批评。他认为RL的信号效率低下，且容易受到噪声干扰，导致学习过程低效甚至错误。例如，模型可能因偶然猜中答案而强化错误路径，或输出无意义的胡言乱语却通过评估。尽管如此，他并未完全否定RL的价值，而是呼吁探索替代性学习范式，如“智能体式交互”和“系统提示词学习”，以更高效地训练模型。

Karpathy还提出“认知内核”的概念，主张将LLM的记忆功能与抽象推理能力分离，以提升泛化能力。他认为，人类记忆的有限性反而有助于抽象思维，而当前LLM过度依赖记忆可能导致性能瓶颈。未来，模型可能朝着“先大后小”的方向发展，即先通过大规模训练获取能力，再通过架构优化和蒸馏技术实现更紧凑、高效的认知核心。

关于AI在具体领域的应用，Karpathy强调了自动化与人类协作的平衡。他以放射科为例，指出人机互补往往比完全替代更有效。在编程领域，他主张AI应作为“协作式工具”而非完全自治的代码生成器，以避免“代码沼泽”和安全风险。此外，他提出在基础教育中加强物理学教育，认为物理学的建模和推理能力是培养智识的关键。

最后，Karpathy回应了马斯克的挑战，拒绝与Grok 5进行编程对决，转而强调合作的重要性。他认为，与其陷入炒作或对抗，不如专注于工具打磨和技术突破。这一立场反映了他对AI发展的务实态度：既承认当前技术的局限性，也坚信其长期潜力。他的观点为AGI讨论注入了理性声音，提醒行业在狂热中保持冷静，在挑战中寻找机遇。