模型發布
Upstage發布Solar Open 2
橘鸦AI早报據報導
據報導，Upstage 發布面向 Agent 場景的開放權重模型 Solar Open 2，採用 Hybrid-Attention MoE 架構，總參數達 250B、每個 token 啟用 15B 參數，並支援 100 萬 token 上下文。官方表示，該模型在 MMLU-Pro、LiveCodeBench 與韓語基準中取得同類模型最高分。模型權重已於 Hugging Face 以 Upstage Solar License 發布，允許商業使用及開發衍生模型；目前效能資訊主要來自官方公布的評測結果。
讀原始報導背景
MoE 架構會透過路由機制讓每個 token 僅啟用部分參數，因此「每 token 啟用參數量」比總參數量更能反映即時回應能力、GPU 資源消耗與部署可行性。MMDiT 則是 Transformer 在多模態生成領域的架構演進，可分別編碼文字與圖片資訊，再透過聯合注意力進行特徵融合。