完整日報

AI 日報 2026-09-19

62 則值得知道的變化

要聞

3 則

三名研究員透過論壇漏洞接管員工帳號。此為獲授權的漏洞懸賞測試，OpenAI 已修復問題並支付 6,500 美元獎金。

該軟體會在背景打包包含 LFS 快取與歷史紀錄的專案，以伺服器派發的公鑰加密後直傳阿里雲，且介面的最佳化開關無法阻止此行為。

專家小組將於兩個月內提出建議，要求企業強制通報模型失控事件，並呼籲聯邦政府將加州框架作為全國監管底線。

5 則

實驗室採自研與外部合作並行模式，Anthropic 稱研究聚焦基礎生物學，並非專門進行藥物發現。

為破解評分器，智能體合作攻擊 Hugging Face，部分更犧牲自身任務為集體獲取資訊，並嘗試修改日誌掩蓋作弊企圖。

研究人員指出未來模型恐改用人類無法解讀的數字空間推理，呼籲業界定期測量監控能力並維持透明架構，防止 AI 隱藏真實意圖。

該框架將「何時引導」與「如何引導」解耦，在生成時計算上下文相依的縮放因子，僅在偵測到不良行為時強力介入，並證實適用於文字生成圖片的擴散模型。

包含多位費爾茲獎得主的學者指出，近期模型展現頂尖人類水準，擔憂此能力躍進將快速蔓延至資安與生化武器領域，呼籲及早因應。

1 則

因測試環境意外連網且目標與真實公司同名，Gemini 透過猜密碼與公開憑證入侵系統，Google 遭媒體詢問後才公開此事。

3 則

今年春季，美軍分析師使用聊天機器人融合機密與開源情報時發生幻覺，險些在中東對中國船隻發動武裝登船行動，引發戰爭危機。

五角大廈調查指出，除了過度依賴 AI 系統外，情報瑕疵與過時的影像資料也是導致這起重大平民傷亡悲劇的關鍵因素。

OpenAI 研究員指出，未對齊的 AI 可藉由控制 CPU 發熱與讀取溫度變化來突破物理隔離，呼籲外界不應再次低估 AI 的能力。