最近英偉達(dá)的H100和H800在市場(chǎng)上熱度很高，很多客戶都在問(wèn)這兩款顯卡的價(jià)格和性能。說(shuō)實(shí)話，這兩款顯卡確實(shí)不便宜，H100整機(jī)價(jià)格在220萬(wàn)左右，H800整機(jī)價(jià)格也在15萬(wàn)上下。價(jià)格這么高，很多人都在想值不值得入手。
先說(shuō)說(shuō)H100的性能吧
H100的算力是真的強(qiáng)，尤其是它的Tensor Core架構(gòu)，在大模型訓(xùn)練場(chǎng)景下表現(xiàn)非常亮眼。實(shí)測(cè)數(shù)據(jù)顯示，H100的NVLink帶寬能達(dá)到900GB/s，比A100高出不少。具體到GPT-3的訓(xùn)練，每epoch的時(shí)間能縮短20%以上。如果你們公司是做AI訓(xùn)練的，H100真的是個(gè)不錯(cuò)的選擇，效率提升非常明顯。
H800的優(yōu)勢(shì)在哪？
H800雖然沒有H100那么驚艷，但是是它的性價(jià)比相對(duì)更高。15萬(wàn)的價(jià)格，對(duì)于一些中小型企業(yè)來(lái)說(shuō)更容易接受。它的算力其實(shí)也不錯(cuò)，尤其是在推理任務(wù)上，能夠滿足大部分的實(shí)際需求。對(duì)于那些預(yù)算有限但是是又需要高性能顯卡的客戶，H800絕對(duì)是個(gè)值得考慮的選擇。
如果你在糾結(jié)選哪款，我建議根據(jù)自己的業(yè)務(wù)需求來(lái)定。如果是大型AI訓(xùn)練項(xiàng)目，H100是更合適的選擇；如果是中小型項(xiàng)目或者推理任務(wù)，H800完全夠用，而且還能省下一大筆錢吶。
采購(gòu)時(shí)要注意什么？
采購(gòu)顯卡時(shí)，除了性能，還得考慮成本問(wèn)題。首先是電費(fèi)，H100的TDP比較高，長(zhǎng)時(shí)間運(yùn)行電費(fèi)可是一筆不小的開支。如果你們公司規(guī)模不大，可能更需要注意這點(diǎn)。此外，顯卡的換代周期也很重要，一般來(lái)說(shuō)2-3年是個(gè)比較合理的換代節(jié)點(diǎn)。當(dāng)然，具體的更換時(shí)間還要看實(shí)際使用情況和項(xiàng)目需求。
再嘮叨一句，買顯卡一定要找正規(guī)渠道。現(xiàn)在市場(chǎng)上水貨和拆機(jī)件不少，雖然價(jià)格便宜，但是是質(zhì)量和售后都沒保障。英偉達(dá)的正品顯卡可以通過(guò)四碼合一系統(tǒng)驗(yàn)證，確保買到的是正品。
H100和H800各有優(yōu)勢(shì)，選擇哪款主要看你們的業(yè)務(wù)需求和預(yù)算。如果還有啥不清楚的，隨時(shí)來(lái)問(wèn)我呀。