招商銀行統一管理近萬張 AI 加速卡:平均利用率由 35% 升至 60% 以上、每百萬 Token 推論成本降逾 60%
平台已納管 99% 加速運算資源,並以 Twinkle 讓 5 個 LoRA 租戶共享基礎模型,對應場景資源消耗降低 80%。
AI 前線單一來源
53 則值得知道的變化
OpenAI 宣布與三星共同生產並研發下一代晶片,為三星虧損的邏輯業務增添指標性客戶,但其晶圓代工廠正面臨產能耗盡的挑戰。
據報其單顆晶片需開鑿 3000 個矽穿孔,因鑽孔與鍵合技術吃力,每批次高達八成無法通過檢測,最終僅極少數能獲准交付客戶。
據社群流傳消息,A20 Pro 將配備 7 核心 GPU,並升級至 96-bit LPDDR5X 記憶體匯流排,有望提升本地端執行 LLM 的效能。