NVLink

summary:

NVLinkとは,GPU同士を一対一[point-to-point]で直接接続するGPU間の超高速インターコネクト技術である.

PCIeよりも高帯域幅・低レイテンシのデータ転送を実現し,AI・HPC[高性能計算]・データセンター向けに最適化されている.

また,NVLinkは複数のGPUを直接接続するだけでなく,対応するCPUとGPUを接続することも可能であり,GPUメモリの共有アクセスや協調並列処理の効率化を実現する.NVIDIAが開発した.

NVLink 4.0は,双方向で900GB/秒のピーク帯域幅を提供し,従来のPCIe Gen4と比較して約5-7倍の通信速度を実現可能.さらに,GPU-Direct技術と組み合わせることにより,PCIeのボトルネックを回避し,マルチGPUシステムのスケーラビリティを大幅に向上できる.

NVLinkの歴史

世代登場年対応GPU 通信速度[1リンク当たり] 最大通信速度[全リンク合計]
NVLink 1.0 2016年 P100[Pascal] 20GB/s 160GB/s[4リンク×2方向]
NVLink 2.0 2017年 V100[Volta] 25GB/s 300GB/s[6リンク×2方向]
NVLink 3.0 2020年 A100[Ampere] 50GB/s 600GB/s[12リンク×2方向]
NVLink 4.0 2022年 H100[Hopper] 100GB/s 900GB/s[18リンク×2方向]
NVLink 5.0 2024年 B200[Blackwell] 300GB/s 1,800GB/s[6リンク×2方向]

Mathematics is the language with which God has written the universe.

InfiniBand RAPIDS GPUデータベースアベイラビリティゾーンブリッジ SDDC

世代	登場年	対応GPU	通信速度[1リンク当たり]	最大通信速度[全リンク合計]
NVLink 1.0	2016年	P100[Pascal]	20GB/s	160GB/s[4リンク×2方向]
NVLink 2.0	2017年	V100[Volta]	25GB/s	300GB/s[6リンク×2方向]
NVLink 3.0	2020年	A100[Ampere]	50GB/s	600GB/s[12リンク×2方向]
NVLink 4.0	2022年	H100[Hopper]	100GB/s	900GB/s[18リンク×2方向]
NVLink 5.0	2024年	B200[Blackwell]	300GB/s	1,800GB/s[6リンク×2方向]