Ternary Bonsai 2 系列發布 2B、4B、9B 三款三元量化模型，基於 Qwen 3.5，可在標準 llama.cpp 運行

Reddit r/LocalLLaMA 一則貼文披露，Ternary Bonsai 2 系列推出 2B、4B、9B 三種參數規模，基於 Qwen 3.5 開發。貼文作者最初表示模型需要其 llama.cpp 分支（prism 分支）才能運行，但隨後更新指出可直接使用一般版 llama.cpp。 據貼文描述，模型宣稱支援 dFlash 與 MTP，並提供 MLX 支援以提升每秒 token 數（TPS）；作者另提到可於最新版 LocallyAI 在 iOS 上測試。作者也推測，此類模型可能採用 QAT 方式製作，因此基準測試表現與實際部署表現可能有明顯落差。作者計畫測試這些模型是否如先前 Bonsai 系列般出現重複循環（looping）問題。 以上資訊均來自單一社群貼文，尚未有官方公告或第三方評測佐證，各項效能與支援宣稱均未經證實。