開發生態
SK 海力士與 SanDisk 透過 OCP 發布 HBF 0.7.0 規範:將 512 GiB NAND 封裝至 xPU 旁,最高頻寬達 3TB/s
AI 科技評論單一來源
尚未逐項核實
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。
據報導,SK 海力士聯合 SanDisk 透過 OCP 發布《High Bandwidth Flash (HBF) High-Level Base Die Specification, Version 0.7.0》,Google 與 Tenstorrent 亦列為規範的建議提供方。該規範旨在透過堆疊與共封裝技術,將大容量 NAND 移至 GPU 等 xPU 旁,以緩解 AI 推理的資料搬運瓶頸。
規範將 HBF 定位為介於 HBM 與 SSD 之間的非一致性記憶體層級。硬體架構由 Base Die、NAND Core Die 堆疊與 TSV 通道組成。其中,Base Die 負責管理 UCIe 3.0 協議、ECC 編解碼與傳輸排程,並透過 AXI 協議與主機進行通訊。在參考配置中,HBF 採用 16 顆 NAND Die、每通道 16 個 Bank 與 4KiB NAND 頁,總容量達 512 GiB;透過最多 16 條獨立主機通道與多層並行架構,最高配置的目標聚合讀取頻寬可達約 3 TB/s。
HBF 的應用範圍從靜態模型權重延伸至 KV Cache、多模型切換、混合專家模型(MoE)與 Agent 工作負載。規範指出,HBF 並未消除 NAND 的物理限制(如寫入壽命與區塊抹除規則)。與 HBM 或傳統 SSD 不同,HBF 不會自動加入 HBM 的一致性位址空間,主機軟體必須與 Base Die 共同參與管理,包含決定資料布局、將模型權重與頻繁寫入的 KV Cache 進行通道分區隔離,以及處理部分的磨損均衡與位址映射。
讀原始報導背景
報導中提及的 MoE(Mixture of experts)是一種機器學習技術,主要透過多個專家網路將問題空間劃分為同質區域。MoE 屬於一種集成學習形式,過去也被稱為委員會機器(committee machines)。