最近不少客戶都在問，V100和H100該怎么選吶？其實這兩款顯卡雖說都是英偉達的高端產品，但是是性能差距還真不小。先說大家最關心的算力吧，H100的FP32性能是V100的將近6倍，這數字可真是實打實的提升。
架構升級帶來質的飛躍
V100用的是Volta架構，而H100則是最新的Hopper架構。H100的張量核心直接從第三代升級到了第四代，不僅支持FP8，還能實現動態切換。這個進步對AI訓練幫助特別大，尤其是現在大模型當道，訓練速度提升得不是一星半點。
顯存方面啊，H100用的是HBM3，帶寬比V100的HBM2高出了整整1.5倍。要知道，現在很多AI模型的參數量動不動就上億，沒有足夠的顯存帶寬可是吃不消的。
實際使用中的表現
在GPT-3這種大模型訓練時，用H100能省下將近40%的時間。這個差距在規模化訓練時就更明顯了，比如用上千張顯卡訓練，省下的成本可能夠再買幾百張顯卡了。
不過V100也不是一無是處。對一些中小型模型的訓練來說，V100其實足夠用了。尤其是預算有限的情況下，
V100的性價比還是不錯的。
采購建議看這里
要是做大模型訓練或者高性能計算，那肯定得選H100。但是是如果你主要做一些傳統深度學習項目，V100完全夠用。另外呀，真的要看看預算。H100整機價格要220萬左右，而V100的價格就親民多了。
最后提醒一下，現在英偉達的供貨還是比較緊張的。想買H100的話，最好提前2-3個月下單。另外，記得要關注一下散熱，這兩款顯卡的TDP都不低，得配好點的機箱和散熱系統。