最近好多客戶來問H20這個(gè)卡，價(jià)格確實(shí)有點(diǎn)狠啊。含稅127萬的報(bào)價(jià)擺在面前，很多老板第一反應(yīng)都是"咋這么貴"，其實(shí)對(duì)比H100整機(jī)220萬的水平，這價(jià)格還算能接受吧。你要知道現(xiàn)在HBM3顯存的成本就占了三成，更別說這卡針對(duì)的是AI訓(xùn)練這種吞金獸級(jí)需求。
參數(shù)黨最關(guān)心的幾個(gè)硬指標(biāo)
顯存帶寬直接干到3TB/s，老黃這次堆料真是下血本了。不過提醒下各位，實(shí)際采購得看配套的NVLink橋接器，這玩意要單買的話又要多掏小十萬。前段時(shí)間有個(gè)客戶圖便宜沒配橋接器，結(jié)果集群效率直接掉三成，虧大發(fā)了。
不得不說，買這種專業(yè)卡就是買整套解決方案。光盯著顯卡價(jià)格沒意義呀，配套的液冷系統(tǒng)、電源模塊這些都得算進(jìn)去。我們這邊常做的方案是按照1:1.2配預(yù)算，就是說你要準(zhǔn)備152萬左右才能把整套系統(tǒng)跑起來。
市場(chǎng)波動(dòng)比想象中劇烈
上個(gè)月 那邊放出來一批
拆機(jī)件，價(jià)格直接砍到90萬，結(jié)果三天就被搶光了。現(xiàn)在市場(chǎng)上分兩種貨源：品牌直供的新卡穩(wěn)穩(wěn)守著127萬線，二手渠道那些"不明身份"的倒是便宜，就是到時(shí)候售后找不到人可別哭。
要說采購時(shí)機(jī)的話，年底可能是個(gè)坎。聽說臺(tái)積電5nm產(chǎn)能要調(diào)整，到時(shí)候新卡供應(yīng)可能會(huì)收緊。不過這話也不是百分百準(zhǔn)，咱就是個(gè)參考啊。真要等降價(jià)的話，建議盯著北美那邊的期貨市場(chǎng)，那邊價(jià)格波動(dòng)會(huì)比國(guó)內(nèi)早半個(gè)月顯現(xiàn)出來。
企業(yè)采購得會(huì)算總賬
有個(gè)做自動(dòng)駕駛的客戶跟我算過筆賬：用H20訓(xùn)模型比用八塊
A100并聯(lián)還快，電費(fèi)一年能省四十多萬。但是是前提是你得把CUDA核心利用率提到75%以上，要不然真劃不來。現(xiàn)在懂行的客戶都要求我們配個(gè)技術(shù)駐場(chǎng)，就為了把算力吃透。
最近海關(guān)那邊卡得嚴(yán)，深圳港入關(guān)的貨都得等額外質(zhì)檢。要現(xiàn)貨的話得提前說，我們從保稅倉調(diào)貨最快也要五天。對(duì)了，千萬記得要四碼合一的
正品卡，上周還有客戶買到翻新的PCB板，上機(jī)就報(bào)警錯(cuò)代碼43，折騰半個(gè)月都沒解決。
說實(shí)在的，現(xiàn)在這行情要不是急著上線，等明年初H200鋪貨也行。雖然230萬的整機(jī)價(jià)更驚人，但是是顯存直接翻倍到128GB，適合做大模型的大佬們。不過話說回來，搞AI的公司哪個(gè)不是燒錢的主？