斑馬智能發布 23B 端側全模態模型 AutoOmni 2.0，採 MoE 架構並支援 8 路多任務併發

據報導，斑馬智能於雲棲大會發布新一代全模態端側大模型 AutoOmni 2.0-23B-A3B。該模型採用 MoE 混合專家架構，官方宣稱在智慧座艙場景下，其普通任務能力堪比 10 倍參數量的雲端模型，複雜任務處理能力則達 10 倍參數雲端模型的 80% 至 90%。 在硬體與部署最佳化方面，斑馬智能表示已與 10 家晶片企業合作，透過軟硬協同支援 8 路以上多任務穩定併發，使大模型推論加速 5 至 6 倍，量化保真度超過 99%，並減少 50% 以上的運行記憶體佔用。 應用場景部分，現場展示了基於該模型與端雲一體 Agent 架構的實車方案，支援全車全時免喚醒、主動智能迎賓、無感智能停車付費，以及處理模糊意圖與跨域任務。據悉，斑馬智能的元神 AI 目前覆蓋 68% 的主流車企服務，且在導入端側模型的車企中有 63% 採用其方案。