DeepSeek、GPT、Qwen，所有大模型架构图都有，Karpathy：宝藏画廊！

文章摘要

【关 键 词】 大模型架构、模型对比、技术图谱、开源资源、结构可视化

近年来，大模型领域发展迅猛，主流模型数量激增，涵盖GPT、Llama、Gemma、Mistral、DeepSeek、Qwen、Kimi、GLM等多个系列，参数规模从数亿扩展至万亿级别，新模型发布频率接近“周更”。

然而，随着架构创新持续涌现，模型结构图风格多样、模块命名不统一，导致研究者难以快速把握各模型的关键改动差异。

针对这一问题，AI研究者Sebastian Raschka构建了在线图谱「LLM Architecture Gallery」，旨在提供统一视觉框架下的大模型架构全景视图。

该图谱整合其此前两篇博客内容，系统梳理了近年主流开源与闭源大模型的结构设计，覆盖模型的核心架构图、关键模块配置、参数量级、发布时间及相关技术概念。

用户可点击任一模型名称进入对应“模型卡”页面，例如DeepSeek R1、Gemma或Llama系列，查看标准化呈现的架构示意图与设计细节。

所有模型均采用一致绘图规范，便于横向对比不同模型在编码器-解码器结构、注意力机制、前馈网络、位置编码、归一化策略等方面的具体实现差异。

图谱不仅收录小规模模型，也包含千亿甚至万亿参数量级的大型系统，形成横跨参数规模与时间维度的技术演进脉络。

该资源为研究者提供了高效查阅与理解模型架构演变的工具，有助于识别共性设计模式与创新路径，降低技术理解门槛。

图谱本质上构建了一个结构化、可交互的大模型架构知识库，使原本分散于论文中的信息得以集中呈现并直观比较。

正如研究者Andrej Karpathy所言，该项目“是一个创意与想法的资源库”，其价值在于将碎片化的技术信息转化为可检索、可对照的视觉索引，从而支持更系统化的模型分析与设计工作。

通过统一表征方式，该图谱弥补了当前大模型生态中缺乏标准化架构参照系的关键空白。

原文和模型

【原文链接】 阅读原文 [ 682字 | 3分钟 ]
【原文作者】 机器之心
【摘要模型】 qwen3-vl-plus-2025-12-19
【摘要评分】 ★☆☆☆☆

阿里云百炼

大模型服务平台是阿里云基于通义大模型等多种大模型的一站式大模型开发平台。