NVIDIA H100 Tensor Core GPU通过 NVIDIA H100 Tensor Core GPU，在每个工作负载中实现出色性能、可扩展性和安全性。使用 NVIDIA® NVLink® Switch 系统，可连接多达 256 个 H100 来加速百亿亿级 (Exascale) 工作负载，另外可通过专用的 Transformer 引擎来处理万亿参数语言模型。与上一代产品相比，H100 的综合技术创新可以将大型语言模型的速度提高 30 倍，从而提供业界领先的对话式 AI。
感觉炸裂啊，FP64达到34TFlops，不知道实测有多少。INT8达到4000Tops。80GB内存，3.35TB/s的访存性能。要人命啊。
与A100性能相比，性能还能提升4-5倍。不知道HPC性能能够提升多少，但是确实很炸。 |
说点什么...