一颗3nm芯片，挑战英伟达

51 0 0

文章摘要

人工智能芯片初创公司Tensordyne正凭借其新型推理系统Napier芯片，在快速增长的人工智能市场中直接挑战英伟达。该公司预计其新系统的订单额将超过2亿美元，并已获得多家基础设施提供商和大型科技公司的关注。Tensordyne旨在通过提高推理速度、电源效率和机架密度，缓解生成式人工智能需求激增带来的基础设施限制。该芯片由台积电采用3纳米工艺制造，并与博通及瞻博网络合作开发。

在核心技术方面，Tensordyne采用创新的对数数学方案，将传统的乘法运算转换为加法运算，从而大幅降低能耗并缩小芯片面积。相较于传统的16位浮点乘法，该技术能将能耗降低22倍，芯片面积缩小25倍。这种对数运算不仅减少了数字表示中的误差，提高了计算准确性，还通过节省硅片面积为静态随机存取存储器腾出更多空间，进而提升了计算引擎的利用率和整体系统性能。

针对大型语言模型推理中的预填充和解码两大任务，Tensordyne的系统能够同时优化并处理预填充和解码这两项挑战，无需依赖多家供应商和多个机架。其定制的网络和高带宽内存为解码提供了低延迟资源，而对数运算则满足了预填充的密集计算需求。公司声称，其包含72颗芯片的商用系统在运行大型模型时，速度可达英伟达同类系统的四倍，而功耗仅为五分之一，且每个词元的资本支出大幅降低。

随着人工智能推理在市场中逐渐占据主导地位，成本和响应速度成为关键考量因素，Tensordyne的产品设计精准契合了这一趋势。公司计划在未来几个月内发布测试版系统，并通过云端向客户提供测试，预计包含72颗芯片的完整商用系统将于2027年下半年开始销售。实际性能数据将在今年年底系统投入使用后得到最终验证。