On-Policy Distillation

1 則報導橫跨 1 期2026-09-03 起

一起出現的主題

2026-09-03HF Daily Papers

研究指出 LLM On-Policy 蒸餾僅需單一訓練樣本即可達大部分增益，16 個樣本即匹配全資料訓練