Tag: 张量并行

All the articles with the tag "张量并行".

• 并行计算与并行编程：从串行到 AI Infra

  19 Aug, 2026

  从「计算是什么」出发，系统梳理并行计算的核心概念——IPC、延迟与吞吐、数据依赖与同步、Flynn 分类法（SISD/SIMD/MISD/MIMD），到大模型训练中的数据并行、模型并行、流水线并行、张量并行与三维并行，再到 SIMT/CUDA 与 Tile/Triton 两种并行抽象，建立对「为什么大模型要写 Kernel、为什么 GPU 能训练大模型」的直觉。