騰訊混元開源 770B 參數模型 Hy4 preview,支援 1M 上下文與寬鬆商用許可
模型單次推論啟動 49B 參數,端到端吞吐量提升 31.8%,主打程式開發與辦公場景,API 每百萬 tokens 輸入定價 6 元。
機器之心綜合 4 家多家報導
54 則值得知道的變化
模型單次推論啟動 49B 參數,端到端吞吐量提升 31.8%,主打程式開發與辦公場景,API 每百萬 tokens 輸入定價 6 元。
採單次傳遞架構將 PDF 轉為結構化 Markdown,評測得分 79.2 雖落後 GPT-5.5,但優於 Mistral OCR 4。
該模型主打資料不出地的企業級本地部署,在數位部 AI 評測中心的學測社會科亦取得 84% 佳績,強調符合台灣本土語意與合規需求。
據開發者透露,模型基於 vLLM 部署,RTX 5090 批次處理達 50 倍即時速度,目前需 24GB VRAM,未來將推量化版。
新模型結合支援 1 至 3 位元的 GSQ 與 RCO 量化技術,將檔案縮減至 8.4 到 10.1 GB,且無須修改即可於 llama.cpp 與 Ollama 運行。