模型發布
K2-Horizon 系列模型 GGUF 量化版釋出,需搭配分支版 llama.cpp 運行
Reddit r/LocalLLaMA單一來源
尚未逐項核實
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。
據 Reddit 社群消息,K2-Horizon 系列模型的 GGUF 量化版本已在 Hugging Face 釋出。此次釋出的檔案涵蓋多種參數規模,包含 0.9B、3.7B、7B、32B 以及 K2-Horizon-MoVA-36B-A4B。
消息指出,由於官方 llama.cpp 的 Pull Request 仍在進行中,使用者目前無法直接使用官方版本,必須下載特定的 fork 分支版本才能順利運行這些量化模型。
讀原始報導