Tag: Transformer

All the articles with the tag "Transformer".

• 从零训练大模型（五）：解码器 Transformer 骨架

  13 Jul, 2026

  拆开 decoder-only Transformer 的完整数据流：嵌入与位置编码、pre-norm 残差 Block、LayerNorm、MLP、logits，并学会用 12NC²+2VC 估算参数量。

• LLM 应用实战精通（番外）：LLM 架构基础

  15 Jun, 2026

  作为系列番外，带你走进 LLM 的底层架构——从 Seq2Seq 到 Transformer，理解自注意力机制、编码器-解码器与位置编码等核心概念，为深入研究打基础。