最近很多客戶都在問，H100和H800到底哪里不一樣啊？尤其價(jià)格這塊兒，大家都很在意。從我們這邊的報(bào)價(jià)來看，H100整機(jī)價(jià)格大概是220萬人民幣左右，H800差不多是15萬。差距確實(shí)不小，那這些錢花得值不值呢？
算力差距明顯
H100用的是最新的Hopper架構(gòu)，NVLink帶寬能達(dá)到900GB/s。H800呢，帶寬只有它的一半多點(diǎn)。在大模型訓(xùn)練這種場景下，H100的每epoch時(shí)間比H800快了不少。用過的客戶都說，訓(xùn)練GPT-3這種大模型，H100能省下不少時(shí)間。
另外啊，H100的Tensor Core性能也更強(qiáng)，AI推理的利用率更高。要是做AI訓(xùn)練的話，選H100肯定更劃算一些。
三年綜合成本對比
雖然H100前期投入大，但是是從三年TCO總成本來看，其實(shí)更省錢。電費(fèi)按0.8元/度算，24小時(shí)365天不停轉(zhuǎn)，H100的能效更好，電費(fèi)就能省下一大筆。散熱和機(jī)架成本也會(huì)低一些。
H800便宜是便宜，但是是長期用下來，不一定劃算。這道理跟買車差不多，貴的車省油，便宜的車耗油。具體選哪個(gè)，還得看你的使用場景。
換代周期要考慮
現(xiàn)在顯卡更新太快了，H100用了最新的架構(gòu)，至少能堅(jiān)持個(gè)2.3年不用換。H800可能用個(gè)一年半就不太跟得上了。要是做長期部署的話，H100的投資回報(bào)率更高。
所以呀，選顯卡不能光看價(jià)格，要綜合考慮算力、能效和換代周期。H100和H800各有優(yōu)勢，關(guān)鍵是要選對適合自己業(yè)務(wù)的。