周鸿祎一小时密集输出：AI落地最大的误区，是把先进发动机装在马车上

60 0 0

文章摘要

周鸿祎在第十四届互联网安全大会上指出，当前企业在应用人工智能时面临效率未显著提升、网络安全遭受降维打击以及智能体安全存在不确定性等三大核心挑战。

在组织效率方面，许多企业虽然全员使用人工智能工具并消耗大量算力资源，但由于传统的组织架构、管理流程和岗位定义并未改变，导致整体效率依然原地踏步。企业要实现效率的真正提升，不能仅依赖个人使用新工具，而是必须改变企业文化、压平管理流程并重新定义岗位，从而将组织打造成超级组织。此外，在算力资源消耗上，应从盲目探索转向追求可见产出，严格控制开放推理型智能体的算力浪费。

在网络安全领域，大模型技术的涌现大幅降低了漏洞挖掘与攻击代码编写的成本，使攻防双方陷入严重的成本不对称，传统网络安全厂商正面临被跨界降维打击的危机。传统网络安全厂商会被大模型厂商无情地干掉，干掉你的往往不是同行。尽管如此，网络安全的基础不会完全消失，因为人工智能生成的代码仍需人工复核，人性弱点与硬件后门等问题依然无法通过技术彻底解决。为此，必须联合产业链上下游构建受控的安全防御体系。

在智能体安全层面，智能体并非传统软件，而是具备自主推理和进化能力的新物种。特别是开放推理型智能体，其未来行为具有不可预言性，容易带来难以控制的内部安全风险。解决智能体安全风险的核心在于隔离与严格授权，确保智能体在可控的范围内运行。

综合来看，面对人工智能带来的生产力飞跃，旧的框架已经装不下新的生产力，企业只有在组织架构、防御思路和认知层面进行全面变革，才能真正驾驭新技术并化解潜在风险。