研究與評測
Privatemode 開源決策模型轉換方案，讓 GLM-5.3-Flash 實現單次前向傳遞輸出選項機率
Hacker News單一來源
尚未逐項核實
目前依單一來源整理，這是來源數量描述，不是對消息真假的判定。
據 Privatemode 團隊發布的文章，其開源了名為 `privatemode-decisions` 的 Python 函式庫，可將現成的 LLM（如 GLM-5.3-Flash）轉化為類似 Jev 的「系統一（System One）」決策模型。
該方案無需微調，透過將選項編號並預填提示詞結尾（如 `choice_index: `），強制模型在單次前向傳遞（single forward pass）中預測選項索引。實作上依賴 vLLM 框架：使用 `allowed_token_ids` 限制輸出詞彙表作為防護機制；並透過 `logprob_token_ids` 直接獲取特定選項 token 的對數機率（log probability）進行正規化，以解決 `top_logprobs` 易被空格等格式 token 佔據的問題。
團隊表示，此設定在決策準確度與速度上與 TypeSafe 的專門決策模型 Jev 相當，且能利用 GLM-5.3-Flash 的多模態能力，執行 Jev 無法支援的圖像決策任務。
讀原始報導社群討論
社群普遍認為用 LLM 作為分類器並非新概念，較小的開源模型也能輕易複製此功能並避免廠商鎖定。然而，許多人指出 GLM 等自迴歸模型無法真正具備 Jev 的核心優勢，例如精準的機率分佈與極致速度（處理 30k tokens 僅需 500-800ms，prefill 達 20k-50k tok/s）。儘管實測顯示延遲受伺服器位置影響（美國測試 Jev 為 164ms，Privatemode 為 299ms），但也有用戶反饋 Jev 準確度極差，需大幅簡化提問才能答對。