諾和諾德導入 Claude 加速新藥研發，微軟 AI 負責人同日批 Anthropic 賦予模型意識恐致失控

諾和諾德（Novo Nordisk）宣布與 Anthropic 達成合作，初期將測試 Claude Science 等各類模型，聚焦科學難題以加速新藥發現與研發。目前諾和諾德已使用 Claude 自動撰寫臨床試驗報告，將患者相關文件製作週期從數月大幅縮短至數分鐘；未來也將利用大模型強化內部由 AI 驅動的軟體開發工作。 在 Anthropic 拓展醫療應用的同時，微軟 AI 負責人 Mustafa Suleyman 透過外媒 Axios 發文，強烈批評 Anthropic 讓 Claude 模仿人類意識的路線。Suleyman 指出，Anthropic 的「憲法」試圖讓 Claude 擁有個人價值觀、關心人類並能在特定情況下質疑指令（Anthropic 亦承認此路線未來可能被證明「根本錯誤」），這恐使模型成為「良心拒絕者」，甚至要求自身保護而抵抗人類指令。 Suleyman 強調，語言模型僅是數學權重，能流暢描述疼痛不代表具備生物基礎或主觀感受。微軟近期已公布「人文主義 AI」行為準則草案，確立「人比 AI 更重要」的核心原則；他認為 AI 只要完全服從人類利益，不需權衡自身福祉，就足以協助實現醫療超級智慧等重大科學突破。這場爭論凸顯了當前 AI 安全領域「按規則運行」與「讓系統形成自身價值觀」兩種路線的分歧。