大模型投機解碼優化技術曝光：採免訓練即插即用近似驗證，推理速度再提 15%

據報導，一項針對大型語言模型「投機解碼」（Speculative Decoding）的優化技術曝光。該技術採用免訓練、即插即用的近似驗證機制，能在現有基礎上將模型推理速度進一步提升 15%。