YC AI 创业营第一天，Andrej Karpathy 的演讲刷屏了

68 0 0

文章摘要

Andrej Karpathy在YC AI创业营的演讲中，提出了关于智能体和大模型（LLMs）的深刻见解，并探讨了软件开发、提示工程以及人机协作的未来方向。他强调了当前正处于“智能体的十年时代”，而非仅仅是“智能体之年”，并指出软件3.0时代——提示词即应用的时代——正在逐步取代传统的软件1.0（代码编程）和2.0（神经网络）。大量软件将被重写，提示工程将成为未来软件开发的核心技能。

Karpathy将LLMs描述为“高智能与认知缺陷的结合体”，认为它们类似于“高智商但存在心智问题”的人类模拟系统。尽管LLMs在复杂任务上表现出色，但在一些简单问题上却可能失败，这种现象被称为“锯齿状智能”。LLMs目前最大的问题是缺乏“认知自我知识”，这需要通过更复杂的模型后训练方法来解决，而非简单地扩大模型规模。此外，LLMs的“记忆能力”也被视为关键，它不仅能够提升效能和数据利用率，还能通过知识引导的“复盘”阶段提供更丰富的反馈维度。

在AI产品设计方面，Karpathy提出了“自主性调节滑块”（Autonomy Slider）的概念，允许用户根据具体情境选择AI的自主程度。例如，Cursor、Perplexity和特斯拉的Autopilot都通过不同的自主性设置实现了多维度效率提升。这种设计理念强调了人机协作的双向模式，即模型负责生成，人类负责验证，从而在高效协作的同时降低错误率。

Karpathy还深入探讨了LLMs的公共属性，将其类比为公共基础设施、晶圆厂和操作系统。LLMs不仅具有公用事业的属性，如资本支出和运营支出，还逐渐成为复杂的软件生态系统。与传统的公用事业不同，LLMs更像软件，可以轻松复制、修改和分发，这为其广泛应用提供了基础。此外，LLMs的应用路径呈现出从消费者到企业再到政府的逆向普及趋势，这与大多数技术的发展路径截然不同。

在LLM心理学方面，Karpathy指出LLMs在模拟人类时存在“锯齿状智能”和“顺行性遗忘症”两大问题。“锯齿状智能”表现为LLMs在复杂任务和简单任务上的表现差异巨大，而“顺行性遗忘症”则指LLMs缺乏长期记忆能力。为了解决这些问题，他提出了“系统提示学习”的概念，认为LLMs应通过类似人类的学习方式，逐步将显性知识转化为习惯性权重。

最后，Karpathy强调了部分自主性设计的重要性，认为演示原型与可靠产品之间仍存在巨大差距。他通过钢铁侠战衣的类比，指出AI产品应在增强用户能力和自主性之间找到平衡，从而实现更高效的人机协作。此外，他还呼吁开发者关注“为智能体而构建”的趋势，认为未来的软件设计应更多地考虑智能体的需求，而非仅仅服务于人类用户。

总体而言，Karpathy的演讲为AI领域的发展提供了深刻的洞察，指出了软件3.0时代的核心特征，并提出了解决LLMs当前局限性的潜在路径。他的观点不仅为开发者提供了新的思路，也为AI产品的设计和应用指明了方向。