标签:推理芯片

当GPU不再够用,英伟达开始押注另一种计算

传统通用处理器在大批量并发训练中具备绝对优势,但在内存密集的流式解码环节受制于外部带宽瓶颈与动态调度机制。新型处理单元采用逆向工程思路,将执行逻辑...

独家丨直指2000 Tokens/s,北大系「流式推理芯片」公司完成数千万元融资

国内专注超快流式推理芯片的创业公司寒序科技,宣布完成数千万元融资,投资方为启高资本、赛意产业基金,源合资本担任本轮独家财务顾问。创立以来寒序科技一...

AI芯片主战场,变了

文章主要讨论了英伟达在人工智能芯片市场的领导地位及其面临的竞争压力。随着人工智能模型在实际应用中的广泛应用,英伟达的数据中心业务逐渐从训练转向推理...