跳到主要內容
2026-11-14 日報
開發生態

llama.cpp 與 ggml 發布 v1.0.0 正式版:確立語意化版本與 API 穩定性,支援逾 150 種模型架構

HuggingFace Blog一手來源
核實資料不足

來源為發布方或研究資料;不代表所有主張已獲獨立核實。

本次未取得足夠原文證據

開源本地推論核心 llama.cpp 與底層張量運算函式庫 ggml 在專案啟動 3.5 年後正式發布 v1.0.0 版本。團隊宣布全面導入語意化版本控制(Semantic Versioning):未來若 libllama(llama.cpp/include/)或 libggml(ggml/include/)的公開 C API 與 ABI 出現破壞性變更,將強制調升主版本號(Major);向後相容的新功能、模型架構支援與後端更新調升次版本號(Minor);純錯誤修復則調升修訂號(Patch)。在架構支援上,llama.cpp 目前已覆蓋超過 150 種模型架構變體及所有主流投機解碼演算法,底層 ggml 後端均可編譯為動態函式庫並在執行階段載入。軟體散布管道涵蓋 Linux、macOS、Windows、Android 與 iOS 預編譯檔案,並支援 Docker、Debian、Homebrew、conda-forge、MacPorts、Winget 及 Apple XCFramework。其持續整合(CI)測試則結合 Hugging Face Buckets 與 Jobs,並由 NVIDIA、AMD、Qualcomm、Arm、IBM 與 Intel 提供硬體支援以擴充自我託管測試節點。
讀原始報導

背景

llama.cpp 是一套可在多種硬體上執行大型語言模型推論的開源軟體函式庫,最初針對 Meta 的 Llama 等模型設計,並與通用張量函式庫 GGML 共同開發。該專案提供命令列工具以及具備簡易 Web 介面的伺服器,被視為本地端 AI 推論核心的實質標準。

來源

本期分類