IBM與Together AI簽署2.4億美元協議，打造由英偉達驅動的AI推理集羣

IBM（IBM）與初創公司Together AI週二表示，雙方已簽署一項價值2.4億美元的多年期協議，將在IBM雲上使用英偉達（NVDA）系統構建一個大規模人工智能集羣。

該集羣將爲開源AI模型提供推理服務。隨着企業尋求控制AI成本，並權衡涉及Anthropic、OpenAI和Meta（META）模型的網絡安全事件，開源模型日益受到青睞。

推理，即運行已訓練的AI模型以生成響應的過程，已成爲算力需求的最大驅動力之一，促使雲服務提供商和芯片製造商投入數十億美元擴展AI基礎設施。

IBM雲上的這一集羣將使用英偉達的HGX B300系統（該系統集成了英偉達較新的Blackwell處理器）及其Spectrum-X以太網網絡設備。英偉達曾表示，Blackwell芯片針對AI推理進行了優化。

總部位於舊金山的Together AI平臺，讓企業能夠在DeepSeek、MiniMax和Kimi等開源模型上訓練和運行AI工作負載，成本低於閉源系統。該公司在7月的估值爲83億美元。