開發生態
范式智能與睿思智聯開源 AI 部署平台 ModelSphere:採 Apache 2.0 授權,支援昇騰等多晶片混合排程
AI 前線單一來源
尚未逐項核實
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。
據報導,范式智能與北京睿思智聯科技宣布開源一站式生產級 AI 部署平台「模域」(ModelSphere),採用 Apache 2.0 授權協議在 GitHub 上線。該平台在技術架構上定位於集群層級的管控與最佳化,與單機推論引擎 vLLM、SGLang 互相配合,提供圖形化操作面板、統一 KV 快取池、負載感知請求路由、自動彈性擴縮容及服務斷流自動續寫等功能。
在硬體相容與效能方面,ModelSphere 融合 EngineX 推論引擎,支援並混合排程華為昇騰、天數智芯、摩爾線程、海光 DCU 等中國國產晶片,使用者無需針對硬體重寫底層程式碼。平台內建 PD 分離部署、三級 KV 快取與 AutoTune 智慧模型排程策略;據官方數據,其系統極限吞吐效率較基準提升約 285%,效能達到原先的 4 倍。目前該平台已適配 DeepSeek-V4/V4-Flash、Qwen、Kimi、MiniMax 與 GLM 等開源模型。
讀原始報導