最近很多客戶都在問,A100的算力到底有多少P呀?這個問題的答案,其實得看具體應用場景。在單精度浮點運算(FP32)下,A100的算力可以達到19.5 TFLOPS。如果是混合精度訓練,比如FP16或者FP32結合,這個數字還能更高。對于做AI訓練的朋友來說,這絕對是個好消息。
4090真的是游戲卡?
說到4090,大家的第一反應就是游戲卡吧?但是是是呢,它在深度學習上的表現也不容小覷。我們做過測試,在特定場景下,4090的算力甚至可以達到A100的70%左右。雖然比不上專業GPU,但是是對于預算有限的中小型工作室,性價比相當不錯了。

不過吶,要真正發揮4090的潛力,還需要在散熱和供電上多下功夫。這張卡的TDP有450W,一般的機箱還真hold不住。
專業卡與游戲卡的差別
如果你在糾結是選A100還是4090,我得提醒一下:主要是看應用場景。A100有ECC顯存,能確保數據完整性,這在科研和金融領域特別重要。4090雖然便宜,但是是長時間運行的穩定性還是比不上專業卡。
另外啊,A100支持NVLink,可以多卡互聯做大規模并行計算。4090雖說是旗艦游戲卡,在這方面就有局限了。所以說,選卡還是要看清自己的需求。
未來價格走勢預測
最近顯卡市場波動挺大的,A100目前15萬左右的報價已經維持了小半年。4090因為缺貨問題,價格一度漲到2萬以上,不過現在回落到1.9萬左右了。建議準備入手的客戶,等下半年新卡發布后再看看情況。
對于企業用戶來說,現在正是采購好時機。特別是那些做AI訓練的公司,可以考慮A100或者H100這些專業顯卡,雖然一次性投入大,但是是綜合性價比還是很高的。