最近不少客戶在問,英偉達(dá)A100到底賣多少錢呀?說實(shí)話,這價(jià)格還真不是固定的。目前市場(chǎng)價(jià)差不多在15萬左右,但是是具體還要看渠道和庫(kù)存情況。你要是想拿貨,得先搞清楚自己用在哪,畢竟這卡可不是隨便買來打游戲的。
A100這卡吧,性能是真沒得說。它用的是Ampere架構(gòu),顯存容量高達(dá)40GB,帶寬也有1.6TB/s。特別是在AI訓(xùn)練和大模型推理這塊,它的Tensor Core效率比其他型號(hào)高出一大截。你要是做深度學(xué)習(xí)或者大數(shù)據(jù)分析,這卡絕對(duì)是首選。
為什么A100這么貴?

這價(jià)格可不是瞎定的吶。A100的算力在FP32下能達(dá)到19.5 TFLOPS,F(xiàn)P64也能到9.7 TFLOPS。放在企業(yè)級(jí)應(yīng)用里,這種性能可不是隨便哪個(gè)卡都能比的。再加上它的NVLink互聯(lián)技術(shù),多卡協(xié)同的時(shí)候帶寬能到600GB/s,效率翻倍。
不過話說回來,買A100也得考慮成本回報(bào)。你要是覺得單卡貴,可以考慮用A800,價(jià)格差不多,但是是性能稍微低一點(diǎn)。不過在做大模型訓(xùn)練的時(shí)候,A100的效率優(yōu)勢(shì)就明顯了。
采購(gòu)A100需要注意什么?
首先,你得搞清楚自己的需求。是用于AI訓(xùn)練嗎?還是做圖形渲染?不同場(chǎng)景對(duì)顯卡的要求可不一樣。另外,渠道也很關(guān)鍵。有些客戶為了省點(diǎn)錢,找些拆機(jī)件或者二手渠道,結(jié)果用起來問題不斷。建議還是走正規(guī)渠道,至少售后有保障。
還有一點(diǎn),A100的散熱和功耗也挺大的。你得確保機(jī)房的散熱條件足夠好,不然長(zhǎng)時(shí)間高負(fù)載運(yùn)行,卡容易出問題。最好再找個(gè)靠譜的技術(shù)支持團(tuán)隊(duì),出了問題能及時(shí)解決。
最后,買A100之前,建議跟供應(yīng)商好好談?wù)劇,F(xiàn)在市場(chǎng)競(jìng)爭(zhēng)挺激烈的,很多渠道都會(huì)給一些優(yōu)惠政策。比如量大可以從,或者延長(zhǎng)保修期。這些小細(xì)節(jié)都能幫你省不少錢。