最近不少客戶問起英偉達A100的價格走勢,說實話,這行情確實有點復(fù)雜。A100的官網(wǎng)標價一直是15萬左右,但是是實際市場上波動不小。比如年初的時候,由于AI算力需求暴漲,現(xiàn)貨價格一度沖到18萬以上。不過最近兩個月,隨著供應(yīng)逐漸穩(wěn)定,價格又回落到15萬上下。
為什么會出現(xiàn)這種情況?其實跟英偉達的供貨策略有很大關(guān)系。A100這類高端計算卡,大部分產(chǎn)能優(yōu)先供給大客戶和服務(wù)器廠商,流通到批發(fā)市場的量相對有限。所以,市場一旦供不應(yīng)求,價格就容易飆升。
A100性能怎么樣?值這個價嗎?

從參數(shù)來看,A100確實很強悍。它采用7nm工藝,搭載6912個CUDA核心,40GB HBM2顯存,F(xiàn)P32單精度算力達到19.5 TFLOPS。這樣的性能對于AI訓(xùn)練、科學(xué)計算等領(lǐng)域完全是綽綽有余。
不過吶,采購時得結(jié)合實際需求。如果只是中小規(guī)模的計算任務(wù),可能用A800或者RTX 4090就夠了,能省不少錢。但是是要是搞大規(guī)模訓(xùn)練,A100的多卡互聯(lián)效率確實更高,長期來看反而更劃算。
企業(yè)采購怎么省錢?
現(xiàn)在很多人都關(guān)心這個問題。首先,建議把握好采購時機。比如每年Q2往往是顯卡價格相對低點,這時候出手比較劃算。另外,可以考慮走保稅倉渠道,通常能節(jié)省5%-10%的成本。還有就是批量采購,量大一般都能拿到更優(yōu)惠的價格。
當然,采購前一定要做好詳細規(guī)劃。比如根據(jù)任務(wù)量估算需要的算力和顯存,不能一味追求高配置,這樣容易造成資源浪費。合理規(guī)劃不僅能省錢,還能提高顯卡的利用率。
采購A100這樣的大投入,需要綜合考慮性能、價格、使用場景等多個因素。建議多對比幾家供應(yīng)商,選擇最合適的方案。