Ollama v0.40.12 支援 Liquid AI LFM3 家族與 2B d1 決策模型,首波僅限 Apple 硬體
LFM3 採 tri-hybrid 架構並具備 256K 上下文,新版亦加速 Apple 晶片推論並支援 MLX 投機解碼。
56 則值得知道的變化
LFM3 採 tri-hybrid 架構並具備 256K 上下文,新版亦加速 Apple 晶片推論並支援 MLX 投機解碼。
透過特殊目的公司採購博通 XPU 與網路設備並預計 2027 年交付,美銀、花旗和大摩籌措優先資金,黑石承擔次順位風險。
團隊詳述 Opus 5.5 發布與定價策略,透過沙箱與憑證隔離模型大腦與執行端,並藉 Harness 解決長任務跨 Context 記憶。
以 124B 模型實測,單 token 解碼延遲由 27.71 降至 22.76 毫秒,並解析 NEXTN 投機解碼啟動達 32 個專家的瓶頸。
作者以兩張 RTX 5060 Ti 完整跑完多項基準、不做抽樣,並記錄每項耗時,稱 MoE 模型常更快且成績相當。
監測雙位元 ECC 與 Xid 等硬體故障,使用者可針對特定代碼自訂無人值守修復,並支援最長 24 小時的任務閒置等待。
搭配開源 gpu-fractioning Operator 與 KAI Scheduler v0.18.0,容器可配置保證下限與彈性上限,並自由切換時間切片或 SM 平行模式。
服務與代理可透過 Copilot Requests 權限與短期權杖運作,費用與模型規範由組織統一承擔,免受個人帳號限制。
受波及工作空間最多占全體 1.85%,官方已要求 OpenAI、Anthropic 撤銷外洩憑證,並將建置基礎設施改為單租戶架構。
開發者無須負擔伺服器與 API 費用,資料不出裝置以保障隱私,該功能採主動啟用,後續將擴展至 Opera GX 與 Neon。
藉由 sbx move 捕捉檔案系統實現雲地搬移,並更新 Kits v3 規範將預建沙箱打包為標準 OCI 映像檔。
底層沙箱提供記憶體與磁碟狀態快照,支援縮容至零並可突發擴展至數千個並發環境,已在逾 40 個 Azure 區域上線。
前 15 大投資人認購約 70% 股份,該交易吸引五倍於發行量的超額需求,所得資金將用於支應 980 億美元的 AI 支出。
引擎採用單次權重讀取與 132K 分頁 KV 快取,使 23K 上下文首字延遲降至 0.5 秒內,吞吐達 llama-server 三至四倍。
Anthropic 客服稱服務錯誤引發的重試計入用量,相關額度不予退還、補點數或以折扣補償,且為最終答覆。