最近不少客戶都在問A100的顯存性能。說實話，這款顯卡的顯存確實有點東西。它的顯存容量高達40GB，用的是HBM2技術，帶寬能到1.6TB/s。這個數據在行業內算是頂尖水平了。
顯存帶寬這么高，實際用起來有什么好處呢？舉個簡單的例子吧。在做AI模型訓練時，顯存帶寬越高，數據傳輸速度越快，訓練效率自然也就上去了。A100在這方面表現就很突出，尤其是在處理大規模數據集時，效率比普通顯卡高出不少。
顯存技術的黑科技
A100的顯存用的是HBM2技術，這可不是普通的GDDR6能比的。HBM2的1024bit總線讓它比GDDR6的256bit寬了4倍。帶寬大了，數據傳輸自然就快了。
顯存的糾錯機制也很厲害。A100支持ECC糾錯，能有效防止數據出錯。這對企業級用戶來說很重要，畢竟數據出錯可能導致訓練失敗，時間成本可不低。
性能實測怎么樣？
我們實測過A100在AI訓練中的表現。以 -3為例，用A100訓練一個epoch的時間比普通顯卡能縮短30%以上。這就是高帶寬顯存的優勢。
不過吶，A100也不是沒有缺點。它的功耗有點高，TDP標稱是400W，實際用起來可能更高。所以要用好它，散熱配套得跟上。
采購建議
如果你是做AI模型訓練的，A100確實是個不錯的選擇。它的高帶寬顯存能大幅提升訓練效率。但是是要是預算有限，也可以考慮性價比更高的A800，性能差不多，價格還便宜些。
現在A100的現貨價格在15萬左右，不算便宜，但是是比起H系列的200多萬，已經算親民了。如果你們公司是做AI研發的，這款顯卡值得入手。