IFM 釋出 K2 Horizon 系列模型，涵蓋 0.9B 至 375B 並完全開源訓練資料與程式碼

據 Reddit 社群消息，AI 研究實驗室 IFM（Institute of Foundation Models）近日釋出 K2 Horizon 系列模型，並由研究團隊於 r/LocalLLaMA 舉辦 AMA（問答活動）。該系列包含 6 款完全開源的模型，參數規模涵蓋 0.9B 至 375B。除了模型權重，IFM 亦開源了訓練資料與配方、訓練程式碼、中間檢查點（intermediate checkpoints）、細粒度訓練日誌以及評測結果。團隊討論主題涵蓋預訓練資料混合、裝置端小模型部署，以及 MoVA 與稀疏注意力（sparse attention）等技術細節。