Perplexity 棄用 DynamoDB 自研 CobbleDB，兩工程師與 AI 耗時兩月以 Rust 打造，讀取延遲降五倍

據報導，Perplexity 已將核心搜尋服務層從 Amazon DynamoDB 遷移至內部自研的分散式鍵值儲存系統 CobbleDB。傳統搜尋引擎僅回傳簡短元資料，但面向語言模型的檢索需提取完整分塊段落與稠密向量，平均記錄載荷達 50KB；在每秒逾 20 萬次請求下，DynamoDB 按位元組計費的模式成本過高，且黑箱機制易產生尾延遲峰值。 為此，工程團隊將架構拆分為三部分：負責持久化狀態管理、基於 YTsaurus 運行於傳統硬碟的 Pillar；負責將資料打包至 Amazon S3 的無狀態佇列 Lorry；以及專注於低延遲服務的 CobbleDB。CobbleDB 核心使用 RocksDB 作為嵌入式儲存引擎，結合記憶體映射快取與本地 NVMe 固態硬碟，並捨棄標準分散式事務協議，改採非同步更新以承受最終一致性。 實測顯示，CobbleDB 將批量讀取延遲中位數從 31.4 毫秒降至 5.60 毫秒，p99 尾延遲從 123 毫秒降至 24.2 毫秒，整體儲存費用下降至少 20%。執行長 Aravind Srinivas 表示，該系統包含約 4 萬行 Rust 程式碼，由兩名工程師與自主 AI 代理叢集在兩個月內共同完成，AI 負責整合測試與建構監控，未來計畫開源程式碼庫。