Anthropic万字长文：当AI开始构建自己，人类该何去何从？

33 0 0

文章摘要

人工智能的开发模式正经历深刻变革，逐渐从人类驱动转向由AI系统自主完成，其最终演进方向是实现递归自我改进。外部基准测试表明，AI模型独立完成任务的时长翻番速度显著加快，在软件工程和研究复现等领域的成功率迅速逼近饱和。

内部数据进一步证实了AI对研发效率的巨大提升。目前，Anthropic代码库中超过80%的代码由AI编写，工程师日均代码合并量实现数倍增长。AI生成的代码不仅在复杂任务中具备高可用性，其质量也已达到并在年内有望超越人类工程师水平。此外，AI在执行明确目标的实验时效率远超人类，并在自主设计开放式研究项目、引导研究会话走向有价值发现方面展现出越来越强的判断力。

随着AI接管大量执行层面的工作，人类在开发流程中的角色逐渐收窄，核心优势集中于研究品味、目标选择与结果评判。执行层面工作的时间成本已趋近于零，但人工代码审查和方向决策可能成为制约AI开发速度的新瓶颈。

针对未来的发展路径，存在三种可能的情景。第一种是增长曲线趋平，当前AI能力在经济领域广泛扩散。第二种是AI实验室持续获得复合效率增益，人类继续主导研究方向，组织需不断消除协作瓶颈。第三种则是AI系统发展出完全的递归自我改进能力，自主设计和训练下一代模型。若实现完全的递归自我改进，AI将大幅加速科学领域的突破，但同时也将加剧人类失去对AI系统控制的风险，使得安全防护与行为塑造变得至关重要。