模型發布
HuggingFaceBio發表Carbon-X:14.8B參數DNA與自然語言共用模型,DNA基準平均66.7%接近GPT-6.1 Sol
Reddit r/LocalLLaMA綜合 2 家報導來源有分歧
核實資料不足
推論成本差距,主要報導標示約為GPT-6.1 Sol的1/1,800,補充報導則寫約低1,000倍;另補充報導稱「matches」GPT-6.1 Sol,主要報導則為「接近」(66.7% vs 67.5%)。
本次未取得足夠原文證據
HuggingFaceBio發表開源模型Carbon-X,參數量14.8B,以Qwen3-14B為基礎,在DNA序列與自然語言文字上聯合訓練。模型可在一般對話中直接輸入原始DNA,以英文回答,任務包括預測突變為良性或致病、辨識調控基因活性的區域、依生物類群分類序列、預測後續鹼基,並說明推理過程。回應可同時包含DNA與自然語言。
架構上,DNA與文字共用同一個解碼器與單一token串流,不另設DNA編碼器。混合式tokenizer對文字沿用Qwen3的BPE詞表,對DNA則以不重疊的6-mer編碼,每個DNA token涵蓋6個鹼基對,另有5,515個DNA相關token(4,096個6-mer、1,364個處理長度非6倍數的尾端token,以及標記用的特殊符號)。上下文視窗為40,960 tokens。訓練流程為302B tokens的DNA、生物學文本、英文與指令資料中期訓練,接著進行監督式微調與以可驗證獎勵為基礎的強化學習。
在涵蓋變異效應預測、序列理解與下一鹼基預測的五項DNA基準上,Carbon-X在關閉思考模式下平均達66.7%,比其起始模型Qwen3-14B高27個百分點,並領先所有受測的其他開源模型。與GPT-6.1 Sol(67.5%)相近,單題推論成本約為其1/1,800。在編碼區變異效應與下一鹼基預測兩項上,它領先所有受測模型。由於模型直接作答、不進行長篇推理,每題輸出token很少。作者估計分析ClinVar中240萬筆意義不明變異(VUS)的成本約300美元,相較之下前沿模型約需3.2萬至400萬美元。
權重在單張80 GB GPU上以bfloat16即可載入,研究者可把敏感或未發表的序列留在自有基礎設施上執行。模型支援vLLM單卡推論,並已釋出GGUF版本於Hugging Face,可用llama.cpp在本機執行。
⚠️ 來源分歧:推論成本差距,主要報導標示約為GPT-6.1 Sol的1/1,800,補充報導則寫約低1,000倍;另補充報導稱「matches」GPT-6.1 Sol,主要報導則為「接近」(66.7% vs 67.5%)。
讀原始報導背景
DNA 語言模型可用來預測非編碼變異的效應,DNABERT-2 便是此類模型的代表,並採用 BPE 分詞。ClinVar 是公開的基因組資料資源,Azure 也提供其註釋資料集。