開發生態
NeMo整合Diffusers擴展微調
HuggingFace Blog
NVIDIA 與 Hugging Face 開源整合 NeMo Automodel 與 Diffusers，讓 Hub 上採用 Diffusers 格式的影像與影片模型無須轉換檢查點或重寫模型，即可進行分散式微調。此整合支援完整微調與 LoRA，並可透過 FSDP2、張量、情境及管線並行，從單張 GPU 擴展至數百張 GPU。相關程式以 Apache 2.0 授權開源，但 NeMo Automodel 目前僅支援 flow-matching 模型。
讀原始報導背景
NVIDIA NeMo AutoModel 是採用 PyTorch DTensor、原生支援 SPMD 的開源訓練函式庫，旨在簡化並擴展大型語言模型、視覺語言模型、擴散模型與檢索模型的訓練及微調。Hugging Face Diffusers 則提供預訓練擴散模型與統一的推論介面，也支援影像生成及模型微調。