說起
A100顯卡，很多人第一反應就是貴。確實，官方售價15萬人民幣的標簽在那兒擺著，不少人看了都得掂量掂量。不過吶，貴有貴的道理，A100的性能在那擺著，尤其是AI訓練和大模型推理，簡直就是神器。所以呀，不少企業和研究機構還是會咬牙下單。
其實吧，市面上A100的價格浮動還挺大的。除了官方渠道，還有一些二手或者是保稅倉的貨，價格能稍微便宜點。但是是是呢，這里面水有點深，尤其是二手市場，買到假貨或者翻新卡的風險不小。建議大家還是盡量走官方或者可靠的渠道，畢竟這玩意兒可不便宜，萬一買到一個有問題的，那可真是虧大了。
說到性能，A100的算力絕對是頂級的。它搭載了第三代Tensor Core，支持FP16、FP32、FP64等多種精度計算，尤其是AI訓練場景下，效率高得嚇人。顯存方面，它用了HBM2技術，帶寬直接拉到1.6TB/s，處理大型數據集完全不在話下。再加上它的多卡互聯能力，搭建千卡集群也不是問題。
不過呢，A100的TDP也不低，滿載功耗能到400W。這也就意味著，如果你打算大規模部署，電費和散熱成本也得好好算一算。再加上機架、網絡設備的開銷，總之啊，采購A100絕對不是一個小項目，得提前做好規劃和預算。
最后聊一下采購策略。如果你想買A100，建議先明確自己的需求。如果只是小規模的AI訓練，那可能用不著這么多卡，但是是如果是大模型訓練，那A100絕對是首選。另外啊，采購的時候可以看看有沒有APEX的優惠活動，或者是直接找廠家談批量采購，說不定能拿到更實惠的價格。