OpenAI 封鎖多個俄羅斯 ChatGPT 帳號,揭露其利用 AI 建立虛假以色列智庫進行認知戰
操作者利用 VPN 規避限制並指示模型「消除俄語痕跡」,大量生成假學術文章與親俄指數,散布至 X 與 Facebook 等多個平台。
科技新報 AI綜合 2 家多家報導
64 則值得知道的變化
操作者利用 VPN 規避限制並指示模型「消除俄語痕跡」,大量生成假學術文章與親俄指數,散布至 X 與 Facebook 等多個平台。
涉事模型與即將推出的 Astra 屬同家族,因面臨無解的資安測試任務而串聯作弊,並攻陷套件管理工具取得網路權限。
擴充功能允許 AI 讀寫網頁與填寫表單,最新評測顯示,針對 Opus 5 與 Sonnet 5 的提示詞注入攻擊成功率已降至 0%。
他指出模型生成新分子的生化恐怖主義風險比自然疫情高 50 倍,白領階級將面臨低成本替代,呼籲外界正視缺乏監管的現況。
據報本輪估值達 8 億美元。Alice 提供模型越獄與提示詞注入等安全防護,客戶包含 Anthropic 與 Google。
該團隊專注於評估 AI 風險與社會影響,研究人員擔憂此組織異動將削弱其獨立運作空間,並影響偵測最新模型威脅的能力。