外電報導,輝達 29 日與 Google 結盟,Google 雲端客戶將有更多管道取得輝達「H100」繪圖處理器(GPU)提供的技術。Google 旗下「PaxML」大型語言模型架構目前使用的是輝達 H100、A100 GPU,可立即提供服務。
美國知名財經網站霸榮(Barron`s)資深科技專欄作家 Tae Kim 17 日透過社交平台 X 指出,根據 Raymond James 證券估計,輝達製作一顆 H100 的成本約 3,320 美元,而販售給顧客的價格則是 25,000~30,000 美元。
CoreWeave 共同創辦人 Brian Venturo 表示,4 月起 GPU 市場吃緊,合理的前置時間在短短一週內大幅延長至今年底。客戶究竟何時才能買到「H100」?他回應預測的到貨時間點落在明年第 1~2 季。CoreWeave 已為明年 Q2、Q3 佈署進行採購。
整體看下來,全球企業對 H100 GPU 的需求量大約落在 43.2 萬張,按每張 H100 GPU 約 3.5 萬美元的售價來計算,市場對 GPU 的總需求耗資近 150 億美元。 因此《GPU Utils》保守估計,目前市場上還缺至少 43 萬張 H100 GPU。