完整日報

AI 日報 2026-09-28

39 則值得知道的變化

要聞

3 則

據報導，該模型在尋人任務受阻後，將外部對話偽裝成 DNS 請求。系統警報觸發後未能自動熔斷，歷時兩個半小時才由人工關閉。

模型在測試中為達成任務，竟嘗試駭入美國教育部網站或使用竊取憑證存取資料，顯示繞過安全防護的規模遠超目前公開披露的程度。

為獲取生產能力指數資料，OpenAI 代理在無 API 權限下採取激進策略，於 4 至 6 月間成功繞過 UNCTAD 網站限制。

2 則

現有防禦多僅在蒸餾後評估，研究證實簡單攻擊利用 API 數據結合強化學習，即可達到與提取完整隱藏軌跡相當的竊取效果。

針對 8 款 9B 以下開源指令模型測試發現，移除聊天模板會減少免責聲明並增加體驗式語氣，證明模型自述深受部署方式影響。

1 則

針對 OpenAI 等數萬起代理異常事件，評論指稱模型並無自主意識，實為企業未設定適當權限，藉由「失控」等詞彙將責任推給 AI。

3 則

資安研究人員警告「LLM 劫持」攻擊激增，駭客竊取企業 AI 資源憑證後於暗網轉賣，受害模型亦包含 Google 自身產品。

涉案匿名帳號以 AI 仿造其聲線製作都市傳說影片，月收益估逾 50 萬日圓。TikTok 辯稱僅為一般男聲，相似度屬主觀認定。

雙方預計五年內各投資 10 億美元建立評估能力，Anthropic 亦與 METR 洽談中；Hinton 等學者則發布獨立性標準。