Salesforce AI Research

1 則報導橫跨 1 期2026-09-03 起

一起出現的主題

#Random Attention1 #vLLM1

2026-09-03HF Daily Papers

Salesforce 發表 Random Attention：保留提示詞並隨機丟棄 KV Cache，推理吞吐量提升 32-43%