Yandex Music 測試單一 Transformer 模型 Sona，取代 15 個推薦系統組件使聆聽時間提升 6.3%

據 Reddit 討論指出，Yandex Music 團隊開發了單一 Transformer 模型 Sona，在 A/B 測試中成功取代了原本由 15 個以上候選生成器、預排序與排序模型組成的複雜推薦系統。Sona 可讀取高達 8,192 個事件，為解決長序列完全注意力機制的運算成本，團隊採用「歷史壓縮」（History Compression）技術，將歷史分為舊的 6,144 個與新的 2,048 個事件。兩區塊透過交叉注意力與單層全歷史自注意力交換資訊後，僅對新事件執行 7 層運算，使推論成本減半。解碼器與排序模組共用編碼器輸出，候選項目以語義 ID（Semantic IDs）經束搜尋（beam search）產出並隨即評分。在智慧音箱上進行的 7 天 A/B 測試（每組 15% 用戶）顯示，Sona 使活躍用戶增加 4.53%、總聆聽時間提升 6.30%（p < 0.01）。不過，目前 Sona 的目錄覆蓋率仍低於現有系統，尚未全面部署，團隊正進行長期 A/B 測試以進一步評估。