PrismML 開源 Ternary Bonsai 2 27B 模型：採三進制權重壓縮至 5.9GB，保留 Qwen3.8 98.2% 效能

PrismML 發布並以 Apache 2.0 授權開源 Ternary Bonsai 2 27B 多模態模型。該模型基於阿里開源的 Qwen3.8 27B（補充資料顯示 Qwen3.8 建立在 Qwen3.5 架構上，為首次釋出 Qwen-Max 等級模型），透過三進制（{-1, 0, +1}）權重與 FP16 分組縮放技術，將單一權重壓縮至 1.76 有效位元。整體模型大小僅 5.9GB，體積較原模型縮小逾 9 倍。 效能與規格方面，Ternary Bonsai 2 27B 支援 262K 脈絡視窗與圖文多模態輸入。在涵蓋推論、數學、程式碼與代理工具使用的基準測試中，該模型獲得 83.9 分，保留了全精度 Qwen3.8 27B 高達 98.2% 的綜合效能（前代 Bonsai 27B 僅保留 95%），在程式碼與長文本代理任務中實現近乎無損的壓縮。 運行效率上，該模型可透過 CUDA 在 NVIDIA GPU 及透過 MLX 在蘋果裝置（Mac、iPhone、iPad）上運行。實測顯示，在 NVIDIA RTX 5090 上吞吐量達 143 tokens/second，M5 Max 上為 46.8 tokens/second；在 RTX 4090 上每 token 僅消耗 0.714 mWh，能效比全精度的 8B 模型高出 40%。 據 TechCrunch 報導，由加州理工學院（Caltech）研究人員創立的 PrismML 已獲得 2225 萬美元種子輪融資，投資方包含 Khosla Ventures、Cerberus、Google 與三星。此外，有消息指出 PrismML 正與蘋果洽談合作，但執行長 Babak Hassibi 對此拒絕評論。