微軟與 NVIDIA 聯合發布開放權重模型風險管理指引，歸納 5 大類 30 種風險

微軟與 NVIDIA 於 10 月 16 日共同發布開放權重 AI 模型風險管理指引《Risk Management for Open-Weight Models in Enterprise》，將風險歸為網路安全、資料保護、內容風險、人類與 AI 互動及偏見 5 大類、共 30 種類型，並提出風險評估、防護措施與持續監控等管理建議。據報導，指引認為模型權重是否開放並非判斷風險高低的唯一依據，企業應依模型特性、實際用途、部署方式與防護措施綜合評估。例如用於程式開發可能產生含漏洞或惡意功能的程式碼；用於 AI 代理則需留意不當工具呼叫與存取權限過大等問題。自行部署時，企業可能需建立身分驗證、存取控制及輸入輸出過濾；若使用託管服務，則應確認供應商提供哪些防護、哪些仍須企業自行負責。指引也提醒，微調、量化或合併模型後，即使功能正常，仍應重新測試防護是否有效；從外部取得模型時，應以數位簽章等方式驗證來源與檔案完整性。上線後需持續監控輸入、輸出與工具使用情況。指引參考 ISO/IEC 23894、ISO/IEC 42001、ISO/IEC 42005 與 NIST AI 風險管理框架，文件已公開於 GitHub 並開放外界提出修改建議。目前內容主要聚焦模型層，兩家公司表示後續將補充模型執行環境、外部工具整合與應用程式層的管理框架。