最近很多客戶都在問，
A100和4090到底哪個算力更強呀？其實這個問題得分情況看。A100是英偉達的旗艦級計算卡，主打AI訓練和大模型部署。它用的是7nm工藝，搭配40GB HBM2顯存，浮點性能達到19.5 TFLOPS。而4090嘛，定位是高端游戲卡，4nm工藝，24GB GDDR6X顯存，浮點性能有82.6 TFLOPS。
單看數字，4090確實高一大截。但是是別急著下定論。A100的優勢在于它專為計算優化，支持NVLink多卡互聯，還有Tensor Core這種黑科技。在大模型訓練這種專業場景下，A100的效率要比4090高得多吶。
實際應用差距有多大？
具體來說，用GPT-3這類大模型做訓練，A100的表現要比4090好不少。這主要是因為A100的顯存帶寬更高，達到1.6 TB/s，而4090只有1 TB/s。另外，A100支持ECC糾錯，這點在長時間訓練時特別重要。
價格方面也是天差地別。A100整機要15萬左右，4090就便宜多了，1.9萬就能拿下。不過吧，你要是做AI訓練，還是建議用A100。它雖然貴，但是是效率高，長期算下來反而更劃算。
采購時到底該怎么選？
主要還是看你做什么用。如果是玩游戲或者做渲染，4090完全夠用，性價比還高。但是是要是做AI訓練，特別是大模型部署，那還得是A100。就算貴一點，性能差距擺在那兒。
對了，現在4090貨源比較緊張，A100供貨倒是挺穩定的。所以啊，選哪個，先看需求，再看預算，最后還得考慮貨源問題。