社群實測消費級硬體推論 Qwen3.8：2× RTX 5070 Ti 達 379 tok/s，千歐性價比大幅超越 5090

開源社群開發者公布在消費級硬體運行 Qwen3.8-27B 與 Qwen3.8-Flash-Next（125B MoE，啟動參數 6B）的推論引擎實測與整理數據。在 2× RTX 5070 Ti 搭配 96 GB DDR5 的實測環境中，運行 27B 模型時，capy-flash 引擎結合 DFlash2 投機解碼達到 379 tok/s 解碼速度，2× RTX 5090 搭配 SGLang fork 實測為 315 tok/s，單張 RTX 3090 搭配 tqLLM 實測亦達 273 tok/s；單張 5090 搭配 MegaCapybara 引擎則有回報達 313–540 tok/s。針對 Flash-Next 125B MoE 模型，作者利用顯存保留熱門專家、CPU 運算缺失專家的架構實測，雙 5070 Ti 配 96 GB 記憶體下，Strata IQ3_S 達 195 tok/s，capy-flash (NVFP4) 達 178 tok/s，雙 5090 搭配 llama.cpp fork 實測為 142 tok/s；在延伸至 81k tokens 的 53 輪寫程式回放測試中，capy-flash 耗時 177 秒，Strata IQ3_S 耗時 197 秒。分析指出，單一模型專用核心在 batch 1 效能高於通用引擎，且 DFlash2 或 DSpark 投機解碼可提供 2 至 3 倍加速。結合歐洲硬體市價估算，雙 5070 Ti 加 96 GB DDR5 成本約 4,400 歐元，Flash-Next 每千歐元產出 40–44 tok/s，而總價約 1.9 萬歐元的雙 5090 配置每千歐元僅產出 7 tok/s。