開發生態
YC 專屬 GPU 叢集上線
Together AI
Together AI 與 Y Combinator 合作推出 YC 首座專屬 GPU 叢集，讓旗下 AI 新創可用於推論與訓練。新創無須簽訂長期合約，即可短期啟用 GPU，同時享有長期費率，並透過自助入口自行預約、配置與管理。該叢集目前已滿載運行，雙方計畫持續擴充容量。
讀原始報導背景
專用 GPU 叢集通常由多台單一租戶的 GPU 伺服器組成，並透過私有高速網路連接，可支援分散式 AI 訓練與大規模推論。AI 訓練是讓模型具備進行準確推論的能力，而推論則是模型實際產生預測或結論的過程。