安全與監管
OpenAI 推出 textGrain 文本浮水印:歐盟 ChatGPT 強制啟用,全球 API 開放選用
OpenAI News綜合 5 家報導一手來源
尚未逐項核實
來源為發布方或研究資料;不代表所有主張已獲獨立核實。
為符合 8 月 2 日生效的歐盟 AI 法案(EU AI Act)透明度規範,OpenAI 宣布推出名為 textGrain 的文本浮水印技術。該功能將在未來幾週內,對歐盟地區所有方案的 ChatGPT 與 Codex 用戶強制啟用。
與 Anthropic 對 Claude 全球強制套用浮水印的策略不同,OpenAI 表示 textGrain 暫不會成為全球預設值。即日起,全球 API 開發者(含雲端合作夥伴)可針對特定模型以「選擇性加入(opt-in)」的方式啟用此功能,預設狀態為關閉。
textGrain 透過微調模型選詞機率,在文本中嵌入機器可讀的隱形統計訊號,即使文本被複製也能保留特徵。OpenAI 提供的 AI 基準測試顯示,加上浮水印後的文本與未加浮水印的表現相似,並宣稱其效果「達到或超越」Google DeepMind 的 SynthID。
然而,OpenAI 坦言 textGrain「無法保證可靠的偵測」,也無法用來驗證文本的準確性或所有權。目前相關的偵測工具將優先開放給研究人員使用。
讀原始報導背景
AI 文本浮水印是一種修改大型語言模型(LLM)等生成式 AI 輸出的技術,使其日後能被識別為 AI 所生成。為了因應歐盟的文本來源規範,OpenAI 開發了名為 textGrain 的浮水印技術,透過在模型輸出中加入不可見的統計訊號來運作。
來源
- TechCrunch AItechcrunch.com
- The Decoderthe-decoder.com
- Techmemetechmeme.com
- The Verge AItheverge.com
- en.wikipedia.org
- openai.com