Rebellions 擴展異質 AI 推論架構，聲稱每瓦 Token 數達 NVIDIA 兩倍並獲日韓企業採用

據報導，AI 晶片公司 Rebellions 正推動異質 AI 推論基礎設施。該公司聲稱，相較於傳統 NVIDIA GPU 配置，其硬體能提供約 3 倍的每美元 Token 數以及 2 倍以上的每瓦 Token 數，機架整體成本降低 3 倍，且單一部署單元功耗最佳化至 4 kW。 在實際應用上，Rebellions 與 SK Telecom 合作處理客服與大量文本工作負載，目前該架構在韓國每日處理約 5000 萬次 API 呼叫。針對主權 AI 需求，Rebellions 則與 KT Cloud 合作，透過 OpenStack 為政府與高監管產業打造實體隔離（air-gapped）的機架級 AI 基礎設施。 此外，Rebellions 亦與日本 AI 推論服務商 AIand 合作，計畫在 5 座獨立資料中心部署高達 40 MW 算力容量、最多 100 個整合機架系統。報導指出，隨著企業將 AI 投入大規模生產，相較於實驗室的合成評測跑分，基礎設施的營運成本、能效與實際業務產出將成為決定性指標。