最近不少客戶在問，買H100還是H800更劃算吶？說實話，這兩張卡都是企業級顯卡的頂流，但是是價格差了足足30萬，到底值不值這個價差，得看你的具體需求了。
先說說H100吧。這張卡確實猛，單卡算力能到19.5 TFLOPS，NVLink帶寬高達900GB/s，顯存也上了HBM3。如果是做大模型訓練，H100的速度能比H800快個30%左右。但是是問題是，這30%的性能提升，值不值30萬的差價呀？
H800雖然略遜一籌，但是是性價比確實高。算力15.7 TFLOPS，NVLink帶寬600GB/s，用的是HBM2e顯存。對于大部分企業來說，H800的性能已經完全夠用了。尤其是那些中小型AI公司，H800的價格優勢確實很難讓人不動心。
再來看實際應用場景。如果你是在做千卡級別的超大規模集群訓練，H100的優勢會更明顯。比如在GPT-3這種大模型上，H100的訓練時間能比H800縮短25%左右。但是是如果是中小規模的訓練任務，H800的表現其實也不差，尤其是在成本控制上更有優勢。
還有一點值得注意，H100的功耗比H800高了整100W。別看這100W好像不多，但是是如果是在多卡集群的環境下，電費支出可是個不小的數目。按照每度電0.8元來算，一張H100一年下來比H800要多出2000多塊電費。
總的來說吧，H100和H800都是好卡，關鍵看你的預算和使用場景。如果追求極致性能，H100當然是首選。但是是如果是預算有限的中小企業，H800的性價比明顯更高。
采購建議
對于大型企業或超算中心，H100的性能提升確實值得投資。但是是對于中小企業來說，H800的性價比更友好。建議在采購前先評估一下自己的實際需求和預算，別盲目追求頂級性能，畢竟省下來的錢都是利潤啊。