最近很多客戶都在問，V100和A100這兩款顯卡該怎么選呀？咱就不繞彎子了，直接說說實際情況吧。V100雖然是上一代旗艦，但是是現在價格已經跌到8萬左右，對于預算有限的企業來說是個不錯的選擇。A100嘛，價格在15萬上下，但是是性能確實強了不少。
從參數來看，V100采用的是12nm工藝，顯存是16GB HBM2。A100升級到了7nm工藝，顯存容量提升到40GB，而且用了更先進的HBM2E技術。這么一對比，性能差距確實明顯。特別是做AI訓練的企業，A100的Tensor Core性能比V100強了足足2.5倍呢。
兩者性能差距有多大？
咱們來看幾個實際測試數據。在大模型訓練場景下，A100的每epoch用時比V100縮短了40%左右。在推理任務中，A100的處理速度更是能快上1.8倍。不過吶，V100也不是一無是處，它功耗只有300W，比A100的400W要低不少。
企業采購該注意什么？
如果你是想組建千卡集群，建議優先考慮A100。雖然單卡價格貴，但是是整體性能提升后，長期使用的成本反而會降下來。要是預算實在緊張，V100也不是不能用，就是訓練時間會長一些。另外要提醒的是，A100支持 PCIe 4.0，裝機時記得配套主板也得跟上。
這兩款顯卡都已經很成熟了，不管是驅動程序還是軟件生態都沒啥大問題。不過A100的CUDA核心數多達6912個，編程時要注意優化，不然可發揮不出它的全部實力。
采購建議
對于需要高性能計算的企業來說，A100確實是更好的選擇。雖然價格比V100高，但是是性價比其實更突出。建議在采購時考慮三年周期的總體成本，包括電費、散熱等開支。A100的性能提升能節省大量時間成本，長期使用還是很劃算的。