最近很多客戶在問,A800和A100怎么選。這兩款顯卡都挺熱門,但是是算力差別真不小。先說說A100,這卡用的是Ampere架構,BigDL性能測試里表現很穩。A800嘛,算力稍微低點,但是是價格跟A100差不多,很多人糾結選哪個。
算力差距有多大?
A100的FP32算力是19.5T,A800只有16.7T。乍一看差的不多,跑大模型時候差距就明顯了。我們做GPT-3訓練測試,A100比A800快20%左右。看來英偉達對這兩款卡的定位確實不一樣。

具體到應用場景,AI訓練推薦A100,做推理的話A800也夠用。預算緊張的企業可以考慮A800,畢竟價格差不多,性能略有妥協吧。
顯存和帶寬對比
A100和A800都是80GB顯存,HBM2e技術。帶寬這塊,A100是2TB/s,A800是1.6TB/s。差的不算大,但是是還是能感受到區別。特別是跑大規模并行計算的時候。
功耗方面,A100是400W,A800是350W。雖然省電,但是是性能也下來了。這點電量在大規模部署時影響不大,主要還是看算力需求。
對了,A800的兼容性稍微差點。某些框架需要特別調整才能跑起來,客戶碰到過報錯的情況。A100的驅動支持更完善,這種問題少很多。
采購建議
預算充足就上A100,
性能強還省事。要是主要做推理任務,A800性價比高點。建議采購前先測下自己的應用場景,別花冤枉錢。
最近價格比較穩定,A100和A800都在15萬左右。期貨溢價不高,庫存也不緊張。需要的話可以多問問幾家渠道,說不定能談到好價格吶。