标签:性能优化

GitHub Issues 大改造:用缓存和预取,让页面打开快了数倍

GitHub重新设计了GitHub Issues的导航架构,旨在通过将更多工作迁移至客户端来降低开发者感知到的延迟。工程团队通过引入客户端缓存、预测性预取以及基于Serv...

陈天奇新书上线:面向ML系统的现代GPU编程

卡内基梅隆大学助理教授陈天奇近期发布免费在线书籍《Modern GPU Programming For MLSys》。该书脱胎于其开设的机器学习系统课程,聚焦大模型训练与推理中高...

开源SOTA!商汤原生多模态一个大脑完成看图、推理、作画

商汤正式开源新一代视觉多模态模型SenseNova U1,其核心突破在于全面摒弃传统的视觉编码器与变分自编码器拼接方案,转而采用自研的NEO-unify原生统一架构。该...

压榨系统性能:视频审核中台从 280ms 降低至 90ms 的架构演进与深度优化

视频审核服务中台初期采用串行检测架构,旨在快速失败以节约算力,但在合法图片占多数的实际场景中,串行累加耗时导致链路延迟不可接受。系统底层潜伏着三大...

端侧AI时代,存储变了:江波龙全面出击

在人工智能从云端向终端大规模落地的转折期,端侧AI应用对存储系统提出全新挑战,传统存储方案难以满足其在功耗、性能与尺寸方面的差异化需求。文章指出,当...

OpenAI绝地反击!Codex大脑首曝,8亿用户极限架构硬刚Claude

数据库架构方面,OpenAI披露了仅用1个PostgreSQL主节点支撑8亿用户的方案。关键技术包括PgBouncer连接池代理、缓存锁定机制和跨地域级联复制,实现了读写分离...

大模型Infra新突破!腾讯混元开源LLM推理算子库,推理吞吐提升30%

腾讯混元AI Infra团队开源了生产级高性能LLM推理核心算子库HPC-Ops,该库通过底层架构创新和指令级优化,显著提升了大模型推理效率。在真实场景测试中,混元...

刚刚,Anthropic内部考题开源!年薪百万工程师,被AI秒了

Claude Opus 4.5的突破性表现直接颠覆了Anthropic的技术招聘体系,这家AI公司被迫公开其曾经用于筛选顶级工程师的机密试题。这个被称为'史上最强模型'的版本...

极简主义的胜利:清华团队用最简单的强化学习配方刷新1.5B模型纪录

清华大学、伊利诺伊大学和上海AI实验室的研究团队提出了一种名为JustRL的全新架构,该架构通过单阶段训练和固定超参数,在DeepSeek-R1-Distill-Qwen-1.5B与Ne...

圣诞写代码,AI谁最强?M2.1、GLM-4.7、K2正面硬刚

2025年圣诞节前夕,MiniMax在IPO冲刺阶段高调发布新一代文本模型M2.1,并通过与智谱GLM-4.7、月之暗面Kimi K2的实测对比展现技术实力。 测试设计三个编程任务...
1 2 3 … 8