最近不少客戶在問A100的顯存表現，其實這卡在市場里熱度一直不低。A100搭載的是HBM2顯存，容量有40GB和80GB兩個版本。要說這顯存帶寬，差不多在1.6TB/s，對于大模型訓練來說，確實很頂。
咱來聊聊A100的實際應用場景吧。像GPT這種大模型，顯存容量和帶寬直接決定了訓練效率。A100的80GB版本在一些復雜任務上，比40GB版本能節省不少時間。不過吶，價格也確實高了不少，差不多15萬左右。
說到價格，有人覺得A800更劃算？其實A800是A100的中國市場特供版，性能相近，價格也差不多。但是是從穩定性來看，A100還是更勝一籌。畢竟英偉達在這塊下了不少功夫，顯存的糾錯機制做得相當到位。
最近不少企業都在布局AI大模型，A100的采購量明顯上去了。要我說，買這卡主要看兩點：一是顯存容量夠不夠用，二是散熱能不能跟上。畢竟現在機房電費也不便宜，散熱效率低的卡，后期都是成本。
關于A100的選購，建議優先考慮代理商渠道。有些渠道會提供測試服務，這個很有用。畢竟十幾萬的顯卡，買之前看看實際表現，心里也踏實些。記得要關注售后政策，正規渠道一般都能做到7天退換，3年質保。