Random Attention

1 則報導橫跨 1 期2026-09-03 起

一起出現的主題

#vLLM1 #Salesforce AI Research1

2026-09-03HF Daily Papers

Salesforce 發表 Random Attention：保留提示詞並隨機丟棄 KV Cache，推理吞吐量提升 32-43%