最近很多客戶都在問，V100和A100到底差在哪里呀？其實這兩款顯卡雖然都是英偉達的旗艦產(chǎn)品，但是是性能差距還真不小。先說算力吧，A100的FP32算力是19.5 TFLOPS，而V100只有15.7 TFLOPS。這差距，可不是一星半點吶。
顯存方面，A100用的是HBM2e，容量高達40GB，帶寬也達到了1.6TB/s。V100雖然也是HBM2，但是是容量只有32GB，帶寬1.1TB/s。對于大模型訓(xùn)練來說，A100的優(yōu)勢就體現(xiàn)出來了。
架構(gòu)差異帶來的性能提升
A100采用了全新的Ampere架構(gòu)，相比V100的Volta架構(gòu)，性能提升可不是一點點。特別是在AI訓(xùn)練場景下，A100的Tensor Core性能直接翻倍。很多客戶反饋，用A100訓(xùn)練模型，時間能縮短30%以上。
不過吶，V100也不是完全沒優(yōu)勢。在一些傳統(tǒng)計算任務(wù)上，V100的表現(xiàn)依然可圈可點。而且現(xiàn)在V100的價格已經(jīng)降了不少，對于預(yù)算有限的企業(yè)來說，也是個不錯的選擇。
實際應(yīng)用中的性能表現(xiàn)
我們做過一個測試，在 -3模型訓(xùn)練中，A100每epoch的時間比V100快了將近40%。這差距，對于動輒幾百個epoch的訓(xùn)練任務(wù)來說，節(jié)省的時間可不是一星半點。
另外，A100的能效比也更高。同樣的任務(wù)，A100的功耗比V100低了15%左右。長期使用下來，電費都能省不少呢。
采購建議
如果你是企業(yè)用戶，建議優(yōu)先考慮A100。雖然價格比V100貴一些，但是是性能提升確實明顯。特別是對于AI訓(xùn)練、深度學(xué)習(xí)這些場景，A100的優(yōu)勢更加突出。
不過吶，如果你的預(yù)算有限，或者主要做一些傳統(tǒng)計算任務(wù)，V100也是個不錯的選擇?，F(xiàn)在V100的價格已經(jīng)降了不少，性價比還是很高的。