显卡的价格已经大幅降低，但你仍然可以等待。新款40系列显卡也即将发布，我们来看看目前市面上显卡的性能对比。这样我们也可以预估这40款显卡的性能，作为以后购买的参考。
但在写这篇文章之前我必须要说的是：这篇文章不建议现在购买显卡。除非有必要，现在千万不要买显卡。谁买谁就吃亏。目前的情况是你只能“等待”
回到主题，在本文中我汇总了在NVIDIAGeForceRTX3090GPU上进行的几个深度学习性能基准测试。
一般情况下，我们会使用TensorFlowgithub中的“tf_cnn_benchmarks.py”脚本来进行深度学习评估。因为大部分测试都是基于这个脚本，所以如果你使用pytorch也可以参考它。显卡的基准测试与所使用的框架无关，差异不会超过5%。
首先使用1、2和4个GPU配置运行相同的测试。确定的批量大小是可用GPU内存可以容纳的最大批量。
那么2022年最流行的深度学习GPU的性能对比：除了NVIDIA的RTX3090之外，还包括A100、A6000、A5000和A4000等产品。
首先，NVIDIARTX3090在所有型号上均优于所有GPU。2个RTX3090、4个RTX2080Ti。对于深度学习，RTX3090是市场上性价比最高的GPU，可大幅降低AI工作站的成本。
RTX3090ResNet50TensorFlow基准测试
1xGPU
2个GPU
批量大小
RTX2080钛
522.52
959.78
128
RTX6000
637.56
1248.54
第512章
RTX8000
604.76
1184.52
1024
泰坦RTX
646.13
1287.01
第512章
RTX3090
1139.15
2153.53
第512章
RTX3090ResNet152TensorFlow基准测试
1xGPU
2个GPU
批量大小
RTX2080Ti
209.27
348.8
64
RTX6000
281.94
519.76
256
RTX8000
285.85
529.05
第512章
泰坦RTX
284.87
530.86
256
RTX3090
457.45
857.14
25
RTX3090InceptionV3TensorFlow基准测试
1xGPU
2个GPU
批量大小
RTX2080Ti
310.32
569.24
128
RTX6000
391.08
737.77
256
RTX8000
391.3
754.94
第512章
泰坦RTX
397.09
784.24
256
RTX3090
697.98
1296.86
256
RTX3090InceptionV4TensorFlow基准测试
1xGPU
2个GPU
批量大小
RTX2080Ti
150.59
247.16
64
RTX6000
203.9
392.14
256
RTX8000
203.67
384.29
第512章
泰坦RTX
207.98
399.16
256
RTX3090
360
679.61
256
2个NVIDIARTX3090与4个RTX2080Ti
1xGPU
2个GPU
4个GPU
批量大小
RTX2080Ti
522.52
959.78
1836.61
128
RTX3090
1139.15
2153.53
不适用
第512章
与RTX2080Ti的4,352个CUDA核心相比，RTX3090的10,496个CUDA核心是其CUDA核心的两倍多，这些核心相当于CPU核心的GPU，并针对同时运行大量计算进行了优化。更多CUDA核心通常意味着更好的性能和更快的图形密集型处理。3090拥有24GBGDDR6X显存，是2080Ti11G的两倍多，所以取得这样的成绩也是情理之中。
RTX3090GPU的2.5插槽设计只能在风冷时在2-GPU配置中进行测试。4-GPU配置需要水冷。所以这也限制了他的测试。如果我们需要购买多台3090，一定要注意机箱的尺寸。
您在使用
RTX3090时可能会遇到的一个问题是散热，主要是在多GPU配置中。4xRTX3090配置需要水冷。这不仅是散热问题，也是尺寸问题。
过热导致性能下降高达60%，因此水冷是最佳解决方案；提供24/7稳定性、低噪音和更长的硬件寿命。此外，任何水冷GPU都保证以尽可能高的性能运行。水冷RTX3090将保持在50-60C的安全范围内，而风冷时则为90C。2x或4x风冷GPU的噪音可能非常大，尤其是鼓风机式风扇。在实验室或办公室放置工作站是不可能的，更不用说服务器了。水冷解决了台式机和服务器中的噪音问题。与风扇相比噪音降低20%。
对于大多数用户来说，NVIDIARTX3090或NVIDIAA5000将为他们提供卓越的性价比。使用大批量可以更快、更准确地训练模型，从而节省大量时间。RTX3090上的24GBVRAM对于大多数用例来说绰绰有余，为几乎任何型号和高容量提供了空间。
NVIDIA的RTX3090是目前最适合深度学习和人工智能的GPU。它具有出色的性能，非常适合为神经网络提供动力。RTX3090是30系列中唯一可通过NVLink桥进行扩展的GPU型号。与NVLink桥配合使用时，视频内存可扩展至48GB，用于训练大型模型。
