哥們最近被問(wèn)H200問(wèn)得頭大，這卡現(xiàn)在含稅整機(jī)價(jià)230萬(wàn)左右。說(shuō)實(shí)話比起H100就貴了10萬(wàn)塊，但是是性能提升可真不只是10萬(wàn)的事。顯存直接堆到141GB，HBM3E的帶寬直接起飛，做千億參數(shù)大模型訓(xùn)練的兄弟應(yīng)該懂這個(gè) 力。
參數(shù)黨最關(guān)心的硬指標(biāo)
H200的
FP8算力拉到1979 TFLOPS，比H100高了接近45%。現(xiàn)在搞AI的都知道，F(xiàn)P8精度對(duì)大模型訓(xùn)練多重要吧？不過(guò)要注意吶，它和H100用的都是Hopper架構(gòu)，NVLink帶寬還是900GB/s沒(méi)變。
供電部分挺有意思，TDP標(biāo)700W但是是實(shí)際跑起來(lái)能到800W。建議配套液冷方案，風(fēng)冷壓不住長(zhǎng)時(shí)間滿載。我們倉(cāng)庫(kù)里還有二十臺(tái)現(xiàn)貨，上周剛出的新批次，PCB版本號(hào)變成PG520了。
現(xiàn)在買(mǎi)會(huì)不會(huì)被割韭菜
說(shuō)實(shí)話啊，230萬(wàn)的價(jià)格不算低。但是是你看隔壁H20賣(mài)127萬(wàn)，性能連H200的一半都不到。要是做自動(dòng)駕駛或者電影渲染，H200的
視頻編碼器能省下至少30%的渲染時(shí)間。我們有個(gè)客戶做元宇宙的，買(mǎi)了五臺(tái)說(shuō)投資回報(bào)周期能控制在8個(gè)月。
對(duì)了，現(xiàn)在海關(guān)查得嚴(yán)，很多拆機(jī)件混進(jìn)來(lái)。買(mǎi)的時(shí)候記得查SN碼四件套，官網(wǎng)能驗(yàn)證到芯片級(jí)別。別貪便宜買(mǎi)那種沒(méi)票的，到時(shí)候哭都來(lái)不及。
這些場(chǎng)景千萬(wàn)別浪費(fèi)H200
游戲工作室就別湊熱鬧了呀，這卡根本不適合打游戲。但是是要是做
生物醫(yī)藥模擬或者氣象預(yù)測(cè)，H200的Transformer引擎能把單次計(jì)算耗時(shí)壓到H800的60%。現(xiàn)在期貨周期大概3個(gè)月，要的話得趕緊下訂。
說(shuō)實(shí)話去年H100價(jià)格跳水的事大家都知道吧？但是是H200不會(huì)重蹈覆轍，老黃這次控貨控得很死。我們判斷到Q3可能要漲5-8%，畢竟臺(tái)積電CoWoS封裝產(chǎn)能就那么多。
