Tag: 推理

All the articles with the tag "推理".

• 大模型算力计算指南：从训练到推理

  28 Jul, 2026

  系统梳理大模型训练与推理所需算力的计算方法，涵盖全量训练 FLOPs 估算（6PD 公式）、训练显存需求、GPU 利用率与训练时间换算、Chinchilla Scaling Laws、LoRA/QLoRA 微调算力与显存、推理算力（2P/token）、KV Cache 显存、Prefill/Decode 两阶段延迟、memory-bound 与 compute-bound 分析、推理优化技术，并配以 LLaMA-7B/70B 等实例计算。