OpenAI 公開對抗性蒸餾防護:受保護推理萃取成功率由 54.0% 降至 0.2%
研究顯示,精確推理軌跡能讓學生模型習得更多網路安全能力,因此 OpenAI 將防護重點放在保護推理軌跡。
OpenAI News一手來源
40 則值得知道的變化
研究顯示,精確推理軌跡能讓學生模型習得更多網路安全能力,因此 OpenAI 將防護重點放在保護推理軌跡。
作者表示方法可輕易推廣到廣義黎曼猜想,並已與 Claude 將論證形式化、去除假設;但證明是否成立尚未經獨立驗證。
Inkling 2 Mini 以約 3B 活躍參數運作,中間層循環三次以提升推理能力,支援 1M token 上下文與圖文輸入,並附 DSpark 草稿模型加速。