Together AI 推出免費 GPU 分散式快取 TSA:熱讀取達 3.4 GB/s、多節點出口頻寬降 200 倍
TSA 基於 ASTRA 架構並利用本機 NVMe,相容 S3 與 Hugging Face 且隨插即用,單次下載即可供全叢集節點共用。
Together AI一手來源
67 則值得知道的變化
TSA 基於 ASTRA 架構並利用本機 NVMe,相容 S3 與 Hugging Face 且隨插即用,單次下載即可供全叢集節點共用。
美國商務部關閉海外雲端算力租用漏洞,約 300 顆 AI 晶片即需許可,既有營運商有 90 天過渡期;另有報導指 Alibaba 透過 Megaspeed 間接取得大量 Nvidia 晶片。
每百萬 Token 輸入定價 0.5 人民幣,內部評測滿意度逼近 Claude Haiku 5.5,單任務成本降至 0.26 元。