最近不少客戶來問A800的事兒,這張卡現(xiàn)在報價15萬左右,比同級的H系 實便宜不少呀。咱們得掰開揉碎說說,這價格到底香不香。
A800用的是Ampere架構(gòu),跟A100算親兄弟。80GB的HBM2e顯存不是蓋的,做AI訓(xùn)練的時候,顯存容量直接決定能跑多大的模型。不過得提醒您吶,它NVLink帶寬只有600GB/s,比A100少了200GB/s。
參數(shù)黨最關(guān)心的實際表現(xiàn)

跑ResNet50測試,A800每小時能處理5800張圖,差不多的算法A100大概是6300張。看起來差距不大吧?但是是要是千卡級集群,這差異就能讓訓(xùn)練周期多出兩三天。
現(xiàn)在礦潮退去后,顯卡行情其實挺魔幻的。上個月有客戶在深圳保稅倉拿了批貨,A800單卡14.8萬就到手了。不過要當(dāng)心啊,二手拆機件最近特別多,價格能壓到12萬,但是是穩(wěn)定性真不敢打包票。
采購建議給您擺桌面上
要是做中小型模型開發(fā),A800完全夠用,省下的錢能多配幾臺機器。但是是搞大模型訓(xùn)練的朋友,還是建議咬牙上H100。別看貴了快200萬,TF32算力差了將近3倍呢!
有個細(xì)節(jié)特別重要,A800支持國密的SM4加密算法。金融行業(yè)的客戶特別看重這個,畢竟數(shù)據(jù)安全可比性能重要多啦。
最近海關(guān)那邊消息說,Q3可能會有批新卡進(jìn)來。不著急的話可以等等看,說不定能蹲到好價格。現(xiàn)在下單的話,強烈建議走品牌直供渠道,雖然貴個萬把塊,但是是保修能省心不少。
對了,裝機的時候記得檢查下電源。這卡標(biāo)稱TDP400W,實際跑起來峰值能到480W。我上個月就遇到個客戶,電源沒配夠?qū)е骂l繁宕機,最后整批機器都得返工。