開發者提出吸收馬可夫鏈語意分流架構：GPU 求解低於 0.05ms，短提示詞 1.5ms 完成分類免喚醒 LLM

據 Reddit r/LocalLLaMA 社群開發者分享的一項未驗證技術方案，針對客服工單、代理工具呼叫或意圖分類容易受表面關鍵字誤導的問題，提出名為 Semantic Triage 的語意分流引擎。傳統餘弦相似度容易被表面詞彙誤導（例如「結帳付款 Webhook 因副本 WAL 鎖定失敗」常被錯誤路由至支付分類），該架構則將查詢投影至 60 個節點的領域流形（Q），並直接在 GPU 上以低於 0.05ms 的速度求解吸收馬可夫鏈（B = (I - Q)^-1 * R），使隨機遊走從冪等鍵值經副本寫入吸收到核心資料庫分類（機率 86%），全程無須喚醒大型語言模型。在 JevBench 基準測試中，第 0 層（吸收馬可夫鏈搭配 EmbeddingGemma2）在快取靜態候選詞的短提示詞環境下，延遲約 1.5ms 且達到 100% 精準度（Suite 650 共 76/76 項），在 400 token 動態選項下的 p50 延遲則為 22ms；包含 Gemma4 26B A4B 與思維鏈（CoT）的 4 層級聯系統整體 p50 延遲為 46ms（平均延遲 308ms），在 240 個測試項目中準確率達 89.17%。該系統並設計了否定與語法、流形鄰近性（分佈外偵測）以及熵值與邊界門控等三道防護機制。