跳到主要內容
2026-08-22 日報
開發生態

中國 AI 部署面臨算力瓶頸:每日 Token 呼叫破 140 兆次,高階程式編碼仍難脫離輝達晶片

TechNews 科技新報綜合 14 家報導多家報導
尚未逐項核實

多個報導來源提及此事;未必是彼此獨立的證據。

中國 AI 產業邁入大規模部署階段,推理(Inference)需求與算力壓力激增。中國國家數據局統計,今年 3 月中國平均每日 Token 呼叫量突破 140 兆次,較 2024 年初暴增逾 1,000 倍。此外,AI 應用逐漸具備「代理性」(Agentic),要求模型實際執行任務,進一步導致 Token 消耗量呈指數級增長。 儘管中國業者正加速軟體最佳化以適配國產硬體,但國產處理器在穩定性與效能上仍難支撐高階任務。推理優化新創 Approaching.AI 副總裁關嘉偉指出,程式編碼等高價值場景高度考驗晶片性能,短期內仍須仰賴數量受限的輝達(Nvidia)高階晶片;若完全受限於國產晶片,企業僅能承接變現能力差的低品質任務。 算力供不應求的現況也直接反映在雲端大廠財報。2026 年第一季,阿里雲營收達 487.37 億人民幣(年增 45%),百度智能雲增速亦達 79%。阿里雲執行長吳泳銘於財報會議明言,AI 算力緊缺局面在 2030 年前基本很難改變;為應對需求,阿里的資本支出截至 2026 年第二季已達 1,900 億人民幣。
讀原始報導

背景

代理性 AI(Agentic AI)是指具備一定自主性,能夠追求目標並使用軟體或工具採取行動的人工智慧程式。相較於僅能回答問題的傳統聊天機器人(如 ChatGPT),這類 AI 著重於實際執行任務,進而大幅增加運算資源與 Token 的消耗。

來源