文章摘要
【关 键 词】 递归改进、代码生成、风险管控、智能爆炸、暂停研发
Anthropic联合创始人Jack Clark近期披露了一项关键数据，指出目前Anthropic合入的代码中已有80%由Claude自主编写。他预测在两年内，这一比例可能达到100%，标志着AI将彻底实现递归自我改进与无限迭代。这一技术突破使工程师的代码产能实现了数倍飞跃，同时也深刻改变了企业内部的工作与招聘逻辑。员工的工作模式已转变为管理多个AI系统副本，而企业的招聘重心正从传统工程师转向律师、哲学家等跨学科专家。
若AI实现完全的自我构建，将为科学研究带来颠覆性影响，仿佛凭空为数百万名科学家赋予了探索未知领域的强大能力。在生物学和机器人学等复杂领域，具备自我改进能力的AI能够自主设计实验并完成海量适配工作，从而大幅加速科学发现与技术突破。这种技术愿景赋予了人类在加速特定科学和经济领域方面前所未有的选择权。
然而，技术爆炸也伴随着巨大的管理与安全风险。Clark对大量涌现且行为难以预测的新AI系统表达了深切担忧，并呼吁为当前只有“油门”的AI行业制造“刹车踏板”。他强调在建立对AI系统可预测性的信心之前，必须保留干预和控制的选项。为此，Anthropic提出在必要时应全球联手暂停AI研究的倡议。
这一呼吁得到了图灵奖得主Yoshua Bengio的公开支持。Bengio认为，如果头部AI公司正逼近递归自我改进的临界点，一次协调且可验证的普遍暂停将是缓解重大AI风险的唯一负责任方案。随着AI自我迭代飞轮的加速，从通用人工智能到超级人工智能的距离可能大幅缩短，留给人类建立有效安全机制的时间已十分紧迫。
原文和模型
【原文链接】 阅读原文 [ 1680字 | 7分钟 ]
【原文作者】 新智元
【摘要模型】 qwen3.7-max
【摘要评分】 ★★★★☆
相关文章
