IST-DASLab 發布 Qwen3.8-27B 的 GSQ+RCO 量化 GGUF 模型，3.00 bpw 效能逼近 BF16 基準

據 Reddit 社群 r/LocalLLaMA 發布的消息，ISTA 深度演算法與系統實驗室（IST-DASLab）釋出針對 Qwen3.8-27B 的全新 GGUF 量化模型。該模型結合 GSQ（Gumbel-Softmax Quantization）與 RCO（Riemannian Constrained Optimization）兩項最新技術，提供 2.50、2.75 與 3.00 bpw 三種版本，檔案大小介於 8.4 至 10.1 GB 之間，並包含視覺投影模組（vision projector）。 根據官方 GitHub 資訊與論文，GSQ 是一種訓練後純量量化技術，支援 1 至 3 位元，能聯合學習網格分配與縮放比例，在 2 到 3 位元時大幅縮小純量與向量量化的差距；其學術論文首版於 2026 年 4 月 20 日發布。RCO 則透過直接對任務損失進行梯度下降，在嚴格的檔案大小預算下為每個張量分配最適合的量化類型，讓 GSQ 得以依據分配的類型對每個張量進行量化。 效能數據顯示，3.00 bpw（10.1 GB）版本在 AIME25 測試中獲得 100.00 分，追平 BF16 基準模型，並在 GPQA-Diamond（88.89 對 89.90）與 LiveCodeBench v6（84.57 對 85.71）中與基準模型差距不到 1 分。2.75 bpw（9.3 GB）版本的 Zero-shot 平均成績（75.70）甚至超越 BF16 基準（74.34）。在同為 8.4 GB 的大小下，新模型對比 Unsloth Dynamic（UD-IQ2_S）量化版本，在 AIME25 提升 10.0 分、GPQA-Diamond 提升 8.6 分、LiveCodeBench 提升 4.6 分。 該系列模型無須修改即可直接於 llama.cpp、Ollama 與 LM Studio 中部署運行。開發團隊表示，這是該實驗室系列發布的首波，未來計畫針對更多模型系列釋出採用此技術的 GGUF 版本。