Superlinked 開源 AI 代理推論引擎 SIE，單一 API 整合百款模型並相容 OpenAI 介面

Superlinked 開源推出專為 AI 代理設計的自託管推論引擎 SIE（Self-hosted inference for agents），近日登上 GitHub Trending。SIE 旨在取代為各別任務建立獨立伺服器的做法，透過單一系統即可提供超過 100 款模型，並支援按需載入與 LRU 記憶體驅逐機制。 該引擎提供與 OpenAI 完全相容的 API，預先配置的模型目錄涵蓋多項代理任務：搜尋檢索（bge-m3、splade-v3）、文件轉 Markdown（lightonocr、glm-ocr）、結構化輸出（gliner2）、內容安全（granite-guardian-2b）及代理迴圈（qwen3.6-27b）。 SIE 採 Apache 2.0 授權，提供完整的生產環境部署堆疊，包含負載平衡閘道器、KEDA 自動擴展、Grafana 儀表板，以及適用於 GKE、EKS 與 AKS 的 Terraform 模組。系統支援 CPU 與 NVIDIA GPU 的 Docker 隔離部署，並已整合 LangChain、LlamaIndex、CrewAI 等主流框架及多款向量資料庫。