Tag: Attention

All the articles with the tag "Attention".

• LLM 算法 LeetCode（一）：请求结构与推理指标

  16 Sep, 2026

  从 Attention 与 Transformer 的关系出发，梳理 MHA / MQA / GQA / MLA 的 KV cache 演进主线，并拆解一次推理请求的 Prefill / Decode 两阶段与 TTFT / TPOT 两大延迟指标。