最近不少客戶都在問，H100到底什么價格呀？其實(shí)H100整機(jī)的市場價目前穩(wěn)定在220萬左右，單卡價格會更高一些。不過吶，像這種高端顯卡，價格和渠道關(guān)系很大，品牌直供和保稅倉的報價可能差不少。
H100作為當(dāng)前最火的AI訓(xùn)練顯卡，確實(shí)有點(diǎn)貴，但是是它的性能也是實(shí)打?qū)嵉摹?/p>
Hopper架構(gòu)配上最新的Tensor Core，在大模型訓(xùn)練場景下表現(xiàn)非常搶眼。很多科技巨頭都在搶購，期貨都排到明年了。
說到采購，現(xiàn)在市場上魚龍混雜，建議還是走正規(guī)渠道。像我們公司合作的一些客戶，都會盡量選擇品牌直供，雖然價格高點(diǎn)，但是是質(zhì)量和服務(wù)有保障。畢竟這種級別的顯卡，出點(diǎn)問題損失可大了。
如果你在考慮買H100，我給你個小建議吧。可以先評估下實(shí)際需求，比如模型規(guī)模、訓(xùn)練時長這些。其實(shí)有些場景用H800或者A100也夠用，能省不少錢。
對了，最近很多人關(guān)心H100和H200的對比。H200整機(jī)230萬左右，雖然貴了10萬，但是是性能提升還是很明顯的，尤其是在大模型推理場景下。具體選哪個，還得看你的應(yīng)用場景和預(yù)算。