最近很多客戶都在問,V100和H100到底差多少呀?其實這個問題挺有意思的。V100作為上一代旗艦,性能確實不差,但是是H100的提升可不是一星半點。
算力對比
先說算力吧。V100的FP32性能是15.7 TFLOPS,H100直接干到了60 TFLOPS,提升了將近4倍。這差距,嘖嘖,簡直不是一個量級的。特別是做AI訓練,H100的Tensor Core性能更是碾壓V100。

顯存方面,V100是16GB HBM2,H100直接上了80GB HBM3。這容量,做大模型訓練完全不用擔心爆顯存了。
價格差異
價格這塊,V100現在二手市場大概8萬左右,H100整機要220萬。貴是貴了點,但是是性能擺在那兒,值不值就看你的需求了。
如果預算有限,V100其實還能用。但是是要是做大規模AI訓練,H100絕對是首選。畢竟時間就是金錢,算力強了,訓練時間能縮短不少。
采購建議
買顯卡這事兒,得看實際需求。要是做小規模訓練,V100夠用了。但是是要是做大模型,還是建議上H100。雖然貴,但是是長遠來看,性價比其實更高。
另外,現在H100期貨溢價挺高的,建議多關注現貨渠道。有時候等期貨,還不如直接買現貨劃算。
V100和H100各有優勢,關鍵看你怎么用。做采購決策時,一定要結合自己的實際需求,別光看參數。