模型發布
Anthropic 團隊零 Rust 經驗,靠 Claude 將 Messages API 從 Python 移植到 Rust:CPU 省 40%–50%、首 Token 延遲降 10%–20%
AI 前線單一來源
核實資料不足
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。
本次未取得足夠原文證據
據 AI 前線引述 Anthropic 平台工程負責人 Katelyn Lesse 的說法,Anthropic 以 Claude 完成 Messages API 從 Python 到 Rust 的移植,改造後相關服務 CPU 消耗約減少 40%–50%,首 Token 延遲改善約 10%–20%,運行時間較長的工作負載改善幅度據稱更大。此數字來自單一來源的訪談引述,尚未有獨立佐證。
專案起因是 API 用量成長後,原有 Python 單體服務的 CPU 效率成為瓶頸。啟動時團隊沒有任何 Rust 開發者:人類工程師負責系統架構與實施計畫,具體程式實作主要由 Claude 完成,並用於討論設計與學習 Rust。團隊刻意不在移植期間加入新功能,由一支小團隊負責,同時使用靜態分析等方法,確保其他團队在 Python 版增加的功能也會同步到 Rust 版。
驗證方面,團隊將影子流量導入新系統,比對 Python 與 Rust 兩套實作的輸出是否一致,確認後再逐步切換實際流量。Katelyn Lesse 表示,過去不會讓團隊採用一次重寫、再逐步上線的方式,這次則成功執行。目前團隊成員多已自認為 Rust 工程師,並另招聘了幾位有較多 Rust 經驗的工程師。
讀原始報導