诺奖得主Hassabis长文：AGI将至，规模和速度是工业革命10倍

32 0 0

文章摘要

诺贝尔化学奖得主Demis Hassabis指出，通用人工智能可能仅需短短几年便会到来，其影响规模与速度预计将达到工业革命的十倍。这项技术将加速药物研发、清洁能源开发和新材料创造，有望打破资源对人类进步的限制，引领人类迈入物质丰裕的新时代。然而，随着前沿模型能力的飞速提升，网络安全、生物安全等领域的潜在威胁日益凸显，递归式自我改进的系统更可能带来失控风险。在激烈的商业与地缘政治竞赛中，技术发展速度已超越人类的理解能力，面对极高的不确定性，保持审慎乐观并立即采取应对行动是明智且必要的策略。

为有效管控风险并确保技术造福社会，亟需建立一个动态、灵活且严格的前沿人工智能标准机构。该机构应负责制定并定期更新前沿级模型的评估基准，涵盖网络安全、生物威胁等高风险领域。通过严格科学方法测试的模型方可部署，同时要求前沿实验室遵循最佳实践，如发布模型卡、维持高水平内部安全及添加数字水印。这一框架不仅能激励负责任的创新行为，还能在必要时协调放慢开发速度，并为建立国际共同标准奠定基础。

通用人工智能的普及不仅是一场技术变革，更将引发深刻的经济与哲学重构。在资源不再稀缺的未来，新经济模式的构建、价值观的重塑以及人类存在价值的重新定义，需要全社会各领域的共同参与。技术人员无法独自解答这些复杂问题，哲学家、社会学家及公众都必须加入讨论。安全、负责任地引导通用人工智能发展，将帮助人类迈入科学发现的新黄金时代，共同塑造一个空前繁荣的光明未来。