安全與監管
歐盟 AI 法案生效,Anthropic、Google 與 OpenAI 全面部署文本與 C2PA 浮水印,開源社群火速推出移除工具
InfoQ 中國多家報導
尚未逐項核實
多個報導來源提及此事;未必是彼此獨立的證據。
配合 2026 年 8 月 2 日生效的《歐盟人工智慧法案》第 50 條規範,主要基礎模型供應商已全面在推論流程中導入統計文本浮水印與加密元資料標準。現代文本浮水印不再注入 Unicode 字元,而是直接干預自迴歸解碼過程,將詞彙表劃分為「綠色」與「紅色」Token 集,對綠色候選詞的對數機率(logit)施加微小正偏置,在不影響延遲與語意下嵌入數學特徵。Anthropic 宣布針對 8 月 2 日起發布的 Claude 模型全球部署此機制,涵蓋網頁介面、API 與 Claude Code,不增加 Token 消耗或 API 定價,且僅在採樣層運作以保障隱私。Google 將 SynthID 框架整合至 Gemini 生產基礎設施,並開源針對 Hugging Face 的文本浮水印實作;據官方文件顯示,OpenAI 與 Nvidia 早在法規生效前的 5 月便已確認採用 SynthID 技術。針對合成媒體,OpenAI 與 Meta 均採用 C2PA 規範,將加密簽章的元資料與影像浮水印(如 SynthID 像素浮水印或深度學習浮水印)一同嵌入。浮水印上線數小時內,開源社群便推出自動化資料淨化工具,可移除 C2PA 等元資料並透過局部重寫破壞統計分布,該專案在 GitHub 不到 24 小時即獲數千顆星。學界與工程分析指出,統計文本浮水印在經過自動翻譯、多模型改寫或少於 60 個 Token 的短文本生成時會嚴重失效,且在重複性程式碼等低熵輸出中容易產生誤報。此外,開放權重模型因下游開發者可完全控制解碼與採樣參數,在法規遵循上面臨比專有 API 閘道器更大的結構性挑戰。
讀原始報導背景
C2PA 的標準源自 2019 年 11 月由 Adobe、紐約時報與 Twitter 共同創立的內容真實性倡議(CAI),旨在推動出處詮釋資料的產業標準。此外,Google 開發的 SynthID 則是用於標記與識別 AI 生成內容的工具,以提升生成式 AI 的透明度與信任感。