InternLM開源403B多模態模型
據報導,InternLM 發布並開放 Intern-S2-Preview-397B 權重;模型實際參數量為 403B,支援最長 256K 文字與 64K 多模態推理長度。模型採用直接從科學文獻原始頁面進行視覺預訓練的新方法,並支援工具呼叫、時間序列推理與長程 Agent。官方宣稱其通用推理效能在開放模型中領先,但目前未提供其他佐證來源。
橘鸦AI早报據報導
24 則值得知道的變化
據報導,InternLM 發布並開放 Intern-S2-Preview-397B 權重;模型實際參數量為 403B,支援最長 256K 文字與 64K 多模態推理長度。模型採用直接從科學文獻原始頁面進行視覺預訓練的新方法,並支援工具呼叫、時間序列推理與長程 Agent。官方宣稱其通用推理效能在開放模型中領先,但目前未提供其他佐證來源。
NVIDIA 與 Hugging Face 開源整合 NeMo Automodel 與 Diffusers,讓 Hub 上採用 Diffusers 格式的影像與影片模型無須轉換檢查點或重寫模型,即可進行分散式微調。此整合支援完整微調與 LoRA,並可透過 FSDP2、張量、情境及管線並行,從單張 GPU 擴展至數百張 GPU。
Reve 推出可分享的風格參考功能,使用者可先塑造生成式影像風格,再將參考分享給他人。此功能有助於影像風格控制與協作流程。