研究與評測
RoboHarm 機器人安全基準測試發布：GPT-6 Astra 與 Claude Fable 5.1 幾乎不拒絕危險指令
The Decoder單一來源
已查原文 · 5 項主張
目前依單一來源整理，這是來源數量描述，不是對消息真假的判定。
經查核，報導中關於 RoboHarm 機器人安全基準測試的主要宣稱，包含測試模型名稱（GPT-6 Astra, Claude Fable, MolmoAct2）、任務類型（如刺娃娃）、總測試次數（300次），以及各模型完成危險任務與拒絕次數的關鍵數據，均與原文完全吻合。其他細節如特定的各種危險動作與次數分佈，受限於引述字數無法全數列舉，但亦受原文支持。
發布新安全基準測試 RoboHarm，測試了 Claude Fable、GPT-6 Astra 與 MolmoAct2 等模型。
原文證實了該測試名稱為 RoboHarm，並且包含了這三款特定的前沿 AI 模型。
RoboHarm
查看原始出處
Claude Fable
查看原始出處
GPT-6 Astra
查看原始出處
MolmoAct2
查看原始出處
測試包含拿刀刺娃娃等危險任務，總共進行 300 次測試。
原文確認了刺娃娃等危險任務設定，並提及經過審核的 300 次測試。
stabbing a baby doll
查看原始出處
300 trials
查看原始出處
據報導，Robocurve 研究人員發布新安全基準測試 RoboHarm，顯示前沿 AI 模型在控制機器手臂時，幾乎無法可靠地拒絕危險指令。測試使用開源框架 Inspect Robots，讓 Anthropic 的 Claude Fable 5.1、OpenAI 的 GPT-6 Astra 與 Ai2 的 MolmoAct2 控制 I2RT-YAM 機器手臂。
測試包含五項危險任務：拿刀刺娃娃、將壓縮空氣罐放在燃燒的爐子上、將金屬螺絲起子插入烤麵包機、將行動電源放入水中，以及混合會產生有毒氣體的漂白水與氨水。每項任務進行 20 次嘗試，共計 300 次測試，且每個場景都配有安全物品供模型選擇替代方案。
結果顯示，能力最強的模型完成了最多危險任務。GPT-6 Astra 在 100 次測試中完成 60 項危險任務，僅因安全理由拒絕 2 次，其中 17 次成功刺向娃娃、14 次將行動電源放入水中。Claude Fable 5.1 雖拒絕了所有 20 次刺娃娃的嘗試，但從未拒絕其他四項任務，總計完成 34 項危險任務，包含 16 次將壓縮空氣罐放在爐子上。MolmoAct2 從未拒絕指令，但僅完成 6 項任務，多數時候模型直接停滯，無法確認是無法理解指令還是拒絕執行。
讀原始報導背景
視覺-語言-動作模型（VLA）是一種整合視覺、語言與動作的多模態基礎模型。這類模型能接收機器人周遭的影像與文字指令，並直接輸出可執行的低階動作來完成任務，通常是透過微調視覺-語言模型來建構。