2 美元就能用上 H100? 英伟达 H100 价格崩盘,集群投资血亏:GPU 生意还怎么玩下去?

AIGC动态2个月前发布 ai-front
444 0 0
2 美元就能用上 H100? 英伟达 H100 价格崩盘,集群投资血亏:GPU 生意还怎么玩下去?

 

文章摘要


【关 键 词】 GPU租赁价格下降市场供应AI技术投资回报

H100 GPU的租赁价格在过去一年中经历了显著下降,从每小时8美元降至低于2美元。这一变化的背后是英伟达Blackwell系列的成功出货和市场供应过剩。尽管OpenAI等实验室在AI技术上取得了显著进展,但他们在训练和推理上的支出仍然高于收入,导致财务上的亏损。这种财务压力,加上GPU基础设施的快速贬值,使得GPU市场成为只有财力雄厚的大公司才能参与的游戏。

H100 GPU的价格崩盘可以追溯到ChatGPT的崛起,该模型在2022年11月发布时使用了A100系列GPU。随后,H100在2023年3月上市,其性能提升和价格优势吸引了大量投资,推动了市场需求的激增。然而,随着时间的推移,租赁价格开始下降,部分原因是由于GPU供应的增加和新基础设施厂商的加入。

英伟达在2023年的投资者演讲中推广了以每小时4美元价格租用H100的市场机遇,这导致了大量的投资涌入GPU市场。然而,随着市场供应的增加,租赁价格开始下降,导致投资回报率降低。对于短期按需租赁,如果价格低于2.85美元,投资回报率将低于股市的内部收益率,如果价格跌破1.65美元,则可能导致实质性的投资损失。

长期预订租约的情况也发生了变化,许多基础设施服务商开始推动3到5年的预付款租约,以锁定利润。然而,随着市场的变化,这些服务商可能面临租约到期后硬件过时的风险。

开放权重模型的兴起也对市场产生了影响,这些模型提供了灵活性、可靠性和安全性,使得企业更倾向于使用这些模型而不是从头开始训练自己的模型。这导致了对从头训练大规模基础模型的需求减少,进一步影响了H100的市场需求。

此外,大模型创建者正在离开公有云平台,构建自己的集群,这减少了对外部资源的依赖,并可能导致市场供应的增加。同时,未使用或延迟供应的容量也开始上线,增加了市场的供应。

在推理阶段,有更便宜的GPU替代品可用,这减少了对H100的需求。英伟达、AMD和英特尔都推出了更具价格竞争力的推理硬件,这些硬件在性能和价格上与H100竞争,进一步削弱了H100的市场地位。

随着H100价格的下降,预计开放权重AI的普及将得到推动,因为运行、微调和修改这些开放模型的成本将越来越低。然而,对于新H100集群的投资者来说,如果运营成本优化不够彻底,可能会面临无利可图的风险。对于中型模型创建者来说,转租未使用的计算资源可能有助于抵消溢价。总的来说,H100的价格下降可能会推动AI应用的浪潮,但对于那些投资于新硬件的人来说,可能不是一个好的投资决策。

“极客训练营”

原文和模型


【原文链接】 阅读原文 [ 6471字 | 26分钟 ]
【原文作者】 AI前线
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★

© 版权声明
“绘蛙”

相关文章

暂无评论

暂无评论...