模型發布
阿里開源視覺模型 Qwen 3.8 27B,實測指預設 xhigh 推理等級會導致嚴重過度思考
Simon Willison綜合 2 家報導多家報導
尚未逐項核實
多個報導來源提及此事;未必是彼此獨立的證據。

阿里 Qwen 研究實驗室發布開源視覺大型語言模型 Qwen 3.8 27B,採 Apache 2 授權,最大上下文長度達 262,144 tokens。官方跑分顯示,其效能超越前代 Qwen 3.6 27B 及今年 5 月的閉源模型 Qwen 3.7-Plus。
開發者 Simon Willison 使用 17GB 的 Q4_K_M 量化版本(GGUF)在 128GB M5 Max MacBook Pro 與 NVIDIA DGX Spark 上進行實測,指出模型官方支援 `reasoning_effort` 參數,但預設值設為 `xhigh`(極高),這在消費級硬體上會導致嚴重的「過度思考」,並容易耗盡 LM Studio 預設的 8,192 tokens 上下文限制,需手動調高上下文長度才能解決。
實測數據顯示,在 `xhigh` 預設下生成一張 SVG 圖片,模型產生了 22,276 個推理 tokens,耗時 21 分鐘才輸出 3,223 個結果 tokens;若關閉推理,相同提示詞僅需 137 秒。此外,要求繪製簡單圓形時,模型會過度設計出帶有動畫的複雜幾何圖形。開發者強烈建議本機部署時應手動將推理等級調低或關閉。
儘管預設值存在問題,該模型在視覺與程式碼任務表現優異。實測指出,模型能根據 0-1000 比例尺精準回傳照片中物件的 JSON 邊界框(bounding boxes)座標,並能透過單一提示詞,直接生成包含圖片輸入與座標解析的完整 HTML 標註工具介面。
讀原始報導背景
LM Studio 是一款大型語言模型推論軟體,讓使用者能在個人電腦上本機執行與管理模型。它提供聊天機器人介面與應用程式介面(API)服務,底層則是使用 llama.cpp 作為推論引擎。
這則事件的發展
來源
- Reddit r/LocalLLaMAreddit.com
- en.wikipedia.org