智譜展示 RSI 早期成果：GLM-5.3 Infra Agent 兩週內完成十萬顆國產晶片集群部署，吞吐量提升 3.2 倍

智譜創始人唐杰分享遞迴自我改進（RSI）早期成果，由 GLM-5.3 驅動的 Infra Agent 參與優化 GLM-5.3-Flash 推理系統，在兩週內完成超過 10 萬顆國產 AI 加速器集群的生產級部署。優化後系統端到端吞吐能力提升 3.2 倍，硬體利用率與單 token 成本接近主流 NVIDIA GPU 平台。該模型曾以匿名「Ox-Alpha」在 OpenCode 與 OpenRouter 測試，六天內處理逾 62 兆個 token。 針對國產晶片顯示記憶體與頻寬限制及 100 萬 token 長上下文需求，團隊採用 ReplaySSM 用計算換取記憶體空間、節點內張量平行降低顯示記憶體壓力，並引入混合精度快取（INT8/FP8/BF16）與 Encode-Prefill-Decode (EPD) 分離式架構。 透過引入「dense feedback」機制，Agent 能夠讀取系統反饋並修改程式碼：其發現 TF32 捨入誤差導致的長上下文精度問題，修復已合併至 Flash Linear Attention PR #1180；定位 Python GIL 未及時釋放導致的併發阻塞，將 KV Transfer 的額外開銷（愛範兒報導為逾 30%，量子位報導為逾 20% 的效能損失）降至 1% 以下；並透過學習開源專案重組 Decode Kernel 計算結構，獲 1.71 倍效能提升。 唐杰強調，目前距離真正的 RSI 仍遠，目標設定與高風險審核仍由人類工程師負責，但已形成「模型優化系統，系統服務模型」的初步閉環。