最近很多客戶在問，英偉達A100和V100到底該怎么選呀？其實這兩張卡雖然都是英偉達的旗艦級產品，但是是性能差距還真不小。
架構升級帶來顯著提升
A100用的是安培架構，而V100是前一代的圖靈架構。單從工藝制程來看，A100的7nm就比V100的12nm先進不少。實際用起來，A100的FP32性能能達到19.5 TFLOPS，比V100的15.7 TFLOPS高出一大截。
顯存方面，A100標配40GB HBM2，帶寬高達1.6TB/s。對比V100的32GB和900GB/s，優勢很明顯。如果你要跑大模型訓練，我建議直接上A100，畢竟顯存容量和帶寬決定了模型訓練的效率。
AI計算性能差異顯著
在深度學習這塊，A100的Tensor Core性能是V100的2.5倍吶。我們實測過，在BERT-Large這種大模型訓練中，A100用時只有V100的60%。差價雖然有點大，但是是考慮到時間成本，A100反而更劃算。
還有個容易被忽略的點，A100支持多實例GPU技術。一塊A100可以虛擬成7個 GPU，利用率直接拉滿。這對企業級用戶來說，確實是個不小的吸引力。
采購建議
現在A100的市場價在15萬左右，V100二手行情約8萬。如果你預算有限，只是做推理任務，V100也夠用。但是是要做大模型訓練，還是建議一步到位上A100。
我們倉庫現在現貨充足，A100批量采購還能享受額外折扣。最近AI需求旺，備貨要趁早。有采購計劃的話，隨時聯系我呀。