“长序列处理”的搜索结果 | 学习AIGC

网站文章

“长序列处理”的搜索结果

Transformer死角，只需500步后训练，循环模型突破256k长度泛化极限

Transformer死角，只需500步后训练，循环模型突破256k长度泛化极限

线性循环模型和线性注意力机...

算力终结者来了！华人天团「降维打击」注意力瓶颈，AI狂飙进对数时代

算力终结者来了！华人天团「降维打击」注意力瓶颈，AI狂飙进对数时代

注意力机制的「平方枷锁」被...

腾讯混元、英伟达都发混合架构模型，Mamba-Transformer要崛起吗？

腾讯混元、英伟达都发混合架构模型，Mamba-Transformer要崛起吗？

近年来，Transformer架构在自...

腾讯推出新一代快思考模型混元 Turbo S：主打秒回、低成本，将在腾讯元宝灰度上线

腾讯推出新一代快思考模型混元 Turbo S：主打秒回、低成本，将在腾讯元宝灰度上线

2月27日，腾讯混元自研快思考...

微软Phi-4家族新增两位成员，5.6B多模态单任务超GPT-4o，3.8B小模型媲美千问7B

微软Phi-4家族新增两位成员，5.6B多模态单任务超GPT-4o，3.8B小模型媲美千问7B

微软于2024年底推出的Phi-4模...

微软和清华大学为 LLM 提出了 DIFF Transformer 架构

微软和清华大学为 LLM 提出了 DIFF Transformer 架构

微软AI和清华大学的研究人员...

腾讯放大招，超Meta！史上参数最大，开源专家混合模型

腾讯放大招，超Meta！史上参数最大，开源专家混合模型

腾讯公司在开源大模型领域推...

LG开源韩语大模型Exaone 3.0，8万亿token训练数据

LG开源韩语大模型Exaone 3.0，8万亿token训练数据

LG的AI研究机构推出了一款名...

谷歌推出基于Transformer的创新技术——无限注意力

谷歌推出基于Transformer的创新技术——无限注意力

随着生成式AI产品如ChatGPT和...

原作者带队，LSTM真杀回来了！

原作者带队，LSTM真杀回来了！

长短时记忆（LSTM）网络自20...

1 2 3 … 429