Hugging Face 將語言模型路由交由 OpenRouter 處理:自動選擇 80+ 供應商,沿用原有程式碼
切換後每次請求依即時價格、速度與可靠性挑選供應商,失敗會自動改送其他供應商;OpenRouter 稱容量錯誤減少 46%。
57 則值得知道的變化
切換後每次請求依即時價格、速度與可靠性挑選供應商,失敗會自動改送其他供應商;OpenRouter 稱容量錯誤減少 46%。
以 12B 激活參數支援多模態與 1M 上下文,API 輸入每百萬 Token 0.5 元,官方表示將開源。
門檻為 1,200 萬 TPP(約 750 顆 H100/H200),涵蓋經仲介的間接存取;現有營運商須於 90 天內取得許可,並撤銷拜登時期 AI 擴散規則。
升級需注意:預設 block size 改為 64、ROCm 7.2 映像檔停發、huggingface_hub 需 2.0.0 以上;Blackwell 上 Step5 decode 最快提升 1.95 倍。
據報導,聯盟每家創始成員各派一名技術代表、每年兩次藍圖會議,但官方尚未公布具體時程、功能優先順序或效能數據。
參數由 38 億縮減至 23 億,輸入容量大增逾九倍,預計 11 月 20 日起先向 Windows Insider 的 Copilot+ PC 推送,2027 年 1 月下旬擴大至正式版。
四台 DGX Spark 以 ConnectX-7 直連成環、免交換器,合計 512GB 記憶體與 20TB NVMe,可在桌上部署最高 700B 參數模型。
Vera Rubin 為初測結果,尚待 MLCommons 驗證;Kimi K3 在相同互動延遲下,每千瓦吞吐量超過 GB300 十倍,DeepSeek 與 Qwen 亦有 5 至 9 倍差距。
Pokémon Red 測試中,Sonnet 3.7 存下 413 個檔案僅得一枚徽章,Claude Fable 5 精簡記錄則拿下四枚。
首代系統以 Celestial AI 技術為基礎,單機箱可共享 57.6 Tbps 頻寬予最多 16 台伺服器,主打取代傳統 KV Cache 卸載方案。
攻擊自10月底起,第一波鎖定以色列組織並破壞部分環境;CISA 已於11月13日將其利用的權限提升漏洞列入 KEV 清單。
除閒置長對話與輸入長度外,用戶也反映每日對話額度已設上限,達標後顯示伺服器繁忙提示,引發免費模式能否持續的疑慮。
自架版將代理控制伺服器、資料庫與工具執行程式一併移入企業環境,但模型推論仍須把對話與工具結果送往所選的模型服務商。
Uber 於 10 月 9 日接獲通知、13 日確認,麻州、佛蒙特州等多州檢察長已獲通報,部分州外洩筆數尚未公開。
工具編排移至服務端,開發者可直接呼叫聯網搜尋與網頁閱讀,但啟用托管工具後,部分參數由服務端決定,且無法強制指定工具。
v3 版將智能體、工具與宣告式的主機、憑證、卷權限統一打包為單一 OCI 鏡像,可用既有鏡像工具處理;目前僅 Docker Sandboxes 符合規範。
Harness Runtime 支援 Claude Code、Codex CLI、OpenCode 等多種 harness,會話閒置時自動暫停以降低閒置成本,並可跨會話持久化狀態。