Tag: 注意力机制

All the articles with the tag "注意力机制".

• 从零训练大模型（六）：注意力机制完整推导

  13 Jul, 2026

  打开注意力这个黑箱：从缩放点积注意力、因果掩码，一路推到多头注意力，讲清它为什么是让 token 互相“通信”的引擎，以及复杂度从何而来。