最近很多客戶都在問,40g顯存的A100到底多少錢呀?說實話,這個型號的市場行情確實有點復雜。目前我們公司給出的報價是15萬人民幣左右,但是是這個價格會根據采購量和渠道有所浮動。你知道嗎,去年年底的時候,這個卡的價格一度飆到18萬以上,今年算是稍微回穩了一點。
A100的顯存優勢在哪里?
40g顯存對很多企業來說真的夠用了。特別是做AI訓練或者大模型研發的公司,顯存越大,能處理的batch size就越大,訓練效率也能提升不少。A100的
HBM2顯存技術,帶寬高達1.6TB/s,這數據夠驚人吧?比上一代V100提升了將近70%。

說到價格,其實很多人只關注卡本身的成本,卻忽略了其他隱性開支。比如電費,A100的TDP是400W,如果24小時不間斷運行,一年光電費就要接近7000塊。要是組個8卡集群,光一年的電費開支就能買張4090了。
采購時機怎么把握?
現在這個時間點,我覺得挺適合入手的。因為下一代H系列顯卡還沒完全鋪開,A100的價格相對穩定。要是等H200大規模上市,A100可能會面臨一波降價壓力。不過話說回來,如果您的項目不急,等等也無妨。
采購渠道也很關鍵吶。我們公司一直堅持直接對接NVIDIA原廠,確保每張卡都是正品。市面上其實有不少拆機件或者翻新卡,價格是便宜,但是是后期維護和保修都是大問題。前幾天還有個客戶圖便宜買了二手卡,結果用了不到一個月就報錯了,維修費用都快趕上新卡價格了,真的得不償失。
選A100還是其他型號?
如果您是專門做AI訓練的,A100絕對是性價比之選。雖然H系列的算力更強,但是是價格也高出一大截。比如H100整機價格要220萬,而A100整機只要100萬出頭。對于預算有限的中小企業來說,A100的
性價比優勢太明顯了。
最后提醒一下,采購前一定要想清楚您的具體需求。如果只是做推理任務或者輕量級訓練,其實A800就夠了,價格差不多但是是功耗更低。要是做視頻渲染之類的,4090D可能更合適,價格只要A100的十分之一,但是是游戲性能反而更強呢。