最近不少客戶在問(wèn)A100顯卡的事兒。說(shuō)實(shí)話，這款卡確實(shí)很火，但是是價(jià)格也確實(shí)不低。15萬(wàn)一臺(tái)的價(jià)格，到底值不值這個(gè)價(jià)錢呢？咱們得好好嘮嘮。
算力表現(xiàn)確實(shí)沒得說(shuō)
別看A100已經(jīng)發(fā)布幾年了，但是是它的算力到現(xiàn)在依然是相當(dāng)能打。FP32算力高達(dá)19.5TFLOPS，F(xiàn)P64運(yùn)算能力也接近10TFLOPS，特別適合需要雙精度計(jì)算的場(chǎng)景。而且它的Tensor Core支持TF32這種新格式，在AI訓(xùn)練這塊效率杠杠的。
顯存配置上，A100用的是40GB HBM2，帶寬達(dá)到了1.6TB/s。這個(gè)指標(biāo)對(duì)于做深度學(xué)習(xí)的朋友來(lái)說(shuō)特別重要，數(shù)據(jù)傳輸快就意味著訓(xùn)練速度更快吶。
價(jià)格背后的玄機(jī)
15萬(wàn)的價(jià)格聽起來(lái)是挺貴的。但是是是你要知道，A100可不是一般的游戲顯卡，它是專業(yè)級(jí)的計(jì)算卡呀。這個(gè)定價(jià)其實(shí)是看應(yīng)用場(chǎng)景的，對(duì)于需要大量計(jì)算的AI企業(yè)來(lái)說(shuō)，這個(gè)投入最后是能收回來(lái)的。
另外要注意的是，現(xiàn)在市面上的A100其實(shí)有兩個(gè)版本，一個(gè)是PCIe接口的，一個(gè)是SXM接口的。價(jià)格上PCIe的會(huì)稍微便宜些，但是是性能上SXM版本要強(qiáng)不少。買的時(shí)候一定要問(wèn)清楚是哪個(gè)版本。
采購(gòu)建議
如果你是想單買，建議走正規(guī)渠道。現(xiàn)在市面上有不少"拆機(jī)件"，價(jià)格確實(shí)便宜，但是是是售后和質(zhì)保都沒法保證。對(duì)于那些需要多卡組建集群的客戶，可以直接找英偉達(dá)的代理商談定制方案，價(jià)格可能還有得談。
用量大的客戶可以考慮直接
DGX整機(jī)方案，雖然一次性投入大，但是是長(zhǎng)期來(lái)看反而更劃算。尤其是做AI訓(xùn)練的公司，省下來(lái)的時(shí)間成本可比顯卡本身的投入重要多了。
另外提醒大家，現(xiàn)在英偉達(dá)已經(jīng)出了H100系列，性能比A100又提升了不少。如果你不是特別著急的話，可以等等看后續(xù)的市場(chǎng)行情。畢竟顯卡這東西，技術(shù)更新?lián)Q代還是挺快的。