Tag: PEFT

All the articles with the tag "PEFT".

• DoRA：权重分解低秩适应

  28 Jul, 2026

  DoRA（Weight-Decomposed Low-Rank Adaptation）通过将预训练权重分解为方向和幅度两个分量分别微调，在不增加推理开销的前提下缩小了 LoRA 与全量微调的性能差距，在常识推理、视觉指令微调、图像/视频文本理解等多种任务上持续超越 LoRA。

• LLM 应用实战精通（四）：微调大模型

  15 Jun, 2026

  讲清什么时候该微调、怎么微调大模型：从全量微调到参数高效微调（PEFT/LoRA），再到指令微调与 RLHF，并梳理数据准备与训练流程的关键要点。