跳到主要內容
2026-10-23 日報
模型發布

inclusionAI 開源醫療專用模型 Ling-3.0-flash-Sante:124B 總參數、每 token 啟用 5.1B、支援 256K 上下文

Reddit r/LocalLLaMA單一來源
核實資料不足

目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。

本次未取得足夠原文證據

inclusionAI 在 Reddit r/LocalLLaMA 相關貼文中釋出醫療專用模型 Ling-3.0-flash-Sante,此為根據官方頁面內容整理的資訊,目前屬未經獨立驗證的來源。模型建立於 Ling-3.0-flash 之上,總參數 124B,每個 token 啟用 5.1B。官方表示,它針對醫療推理、醫療研究、深度研究與工具輔助流程設計,並保留 Ling-3.0-flash 的通用能力。 架構上採用混合線性 MoE,結合 Kimi Delta Attention(KDA)、gated MLA 與稀疏 MoE 層。訓練上下文擴展至 256K tokens,官方指出適合長文件分析、證據整合與多步驟研究。模型預設啟用思考模式,並可在支援的推論框架中使用工具呼叫,官方亦提到支援多代理協作。 權重已於 Hugging Face 與 ModelScope 提供下載。官方特別聲明,此模型是研究用途,並非醫療器材,輸出可能不完整或有誤,不得取代專業醫療建議、診斷或治療;高風險應用需經合格人員審查、獨立驗證,並符合隱私、資安與醫療法規。
讀原始報導

背景

Ling-3.0-flash-Sante 採用的 Kimi Delta Attention(KDA)來自 Kimi Linear 論文,該論文提出一種混合線性注意力架構,宣稱在公平比較下,於短文本、長文本與強化學習擴展等情境都優於全注意力機制。另一個架構元件 MLA(Multi-Head Latent Attention)在 TransMLA 論文中的描述是:每個注意力頭以各自的潛在向量運算,其形式可與 MHA、GQA 對應。

來源