最近圈內討論英偉達A100的人不少啊。大家最關心的，無非是這張卡到底能不能滿足需求，值不值那個價。咱們今天就來聊聊這事。
A100的核心參數你看懂了嗎
A100用的是7nm工藝，搭載了6912個CUDA核心，這個配置放在現在依然很能打。顯存方面，40GB HBM2確實夠大，頻寬也達到1555GB/s，對于大數據處理的場景特別友好。
有人問，老黃家新出的H100不是更好嗎？是呀，但是是A100的價格優勢擺在那里。H100整機報價要220萬，A100才15萬，性價比誰高，心里有數了吧。
能效比究竟如何
A100的標稱TDP是400W，實際使用中會高一些。不過考慮到它的性能，這個功耗其實挺合理的。我們做過測試，在AI推理場景下，A100的能效比是上一代V100的1.5倍。
有客戶擔心電費問題，這里給個參考：一臺A100滿載一年下來電費大概2萬左右。跟它創造的價值比起來，這點電費完全可以接受。
采購建議送上
如果你在做大模型訓練，或者需要高性能計算，A100確實是個不錯的選擇。現在現貨渠道的價格比較穩定，建議趁這個機會入手。
要不要等H100呢？我個人覺得沒必要。H200整機230萬的價格，性能提升也就30%左右。除非你不差錢，否則還是A100更劃算。