标签：余弦递减

给Transformer变个形，LLM竟能变得更聪明

当前大模型行业热衷于通过各类架构设计在有限算力预算下塞入更多参数，却忽略了模型内部参数分配方式的优化。传统神经网络各层分配完全相同的参数量，但大量...

AIGC动态

3小时前