U-Space 提出 U-Lens：單次推理、免標註估計語言模型不確定性

據 Reddit r/MachineLearning 上一則尚未驗證的貼文，U-Space 團隊提出 U-Lens，試圖在不使用正確性標註、訓練、微調或多次重採樣的情況下，於單次推理估計語言模型對答案的不確定性。其分數結合模型隱藏狀態指向四種「疑慮」方向的強度，以及思考 token 的平均熵；四類不確定性包括歧義、資訊不足、證據衝突與一般性不確定性。貼文稱，U-Lens 在 3 個隨機種子、3 個模型與 4 項基準測試中，表現優於 5 次取樣、10 次取樣及監督式基線；測試模型列為 Gemma 4、Qwen3.5 與 Magistral。方法仍需各模型的 Jacobian lens（J-Lens）：U-Space 可在 CPU 上利用數百個詞的 unembedding rows 建立四方向 U-Space，推理時從單層 forward hook 取得思考結束時的隱藏狀態，再與四個向量計算內積並乘上 logits 已提供的平均熵。貼文表示，Hugging Face 上已有 40 多個預先擬合的 lens，涵蓋 Gemma 2/3/4、Qwen3/3.5/3.6、Llama 3.1/3.3、gpt-oss-20b 與 OLMo 3 等模型；若沒有現成 lens，可用 Anthropic 參考程式碼，透過約 100 個未標註提示建立，過程不訓練參數但成本主要來自反向傳播。U-Space 目前是研究程式與重現管線，尚非 Python 套件；貼文提供 GitHub 程式碼與以 Qwen3.5-4B、10 個 TriviaQA 問題及單張 GPU 執行的 smoke test。