模型發布
Liquid AI 發布邊緣多模態決策模型 d1-3B 與 d1-omni-600M,採單次前向傳遞,邊緣設備推論低於 50 毫秒
HuggingFace Blog一手來源
尚未逐項核實
來源為發布方或研究資料;不代表所有主張已獲獨立核實。

Liquid AI 在 Hugging Face 推出針對邊緣運算的開源權重多模態決策模型 d1-3B 與 d1-omni-600M。兩者基於 Liquid Foundation Models (LFMs) 打造,有別於生成式模型,其不生成 token,而是透過單次前向傳遞(single forward pass)直接給出答案。
d1-3B 基於僅解碼器架構的 LFM2.5-VL-3B 訓練,支援文本與圖像輸入。在七項公開資料集平均得分達 82.9,超越 Decider 4B;在 Decision Index 0.2.1 獲得 48.57 分,優於 10B 以下所有模型及 Decider 35B-A3B。速度方面,d1-3B 在邊緣設備回答單一問題均低於 50 毫秒,其中 NVIDIA Jetson AGX Thor 為 16 毫秒、Jetson Orin Nano 為 50 毫秒、Apple M5 Pro 為 30 毫秒;在 RTX 4090 GPU 上僅需 8 毫秒。
處於早期研究發布階段的 d1-omni-600M 則基於雙向編碼器 LFM2.5-Encoder-350M,支援「文本與圖像」或「文本與音訊」輸入。該模型在七項基準測試平均得分為 78.4,以四分之一的參數量超越 Decider 2B。兩款模型已上架 Hugging Face,需搭配 transformers 5.14 以上版本並啟用 trust_remote_code 載入。
讀原始報導背景
NVIDIA 的 Jetson AGX Thor 系列是專為實體 AI 與機器人設計的邊緣運算平台,具備高達 2070 FP4 TFLOPS 的 AI 算力與 128 GB 記憶體。這類高效能硬體能支援邊緣決策模型,使其無須像生成式模型那樣逐字輸出 token,而是透過單次前向傳播(single forward pass)極速給出解答。