jitllm

1 則報導橫跨 1 期2026-10-15 起

一起出現的主題

2026-10-15Reddit r/LocalLLaMA

jitllm 據報可在生成途中搬移模型層與 KV cache：兩張 T4 間切換暫停 8.1 毫秒且免重算

jitllm — YunNEWS