1
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

More than 1 year has passed since last update.

Infiniband NDR OSFPソリューション

Posted at

NVIDIA Quantum™-2 InfiniBandプラットフォームは、超高帯域幅、超低遅延、簡素化された運用と保守を提供し、人工知能と大規模クラウドデータセンターのための最高の選択肢として登場しました。Quantum™-2は、ポート速度が2倍、スイッチのポート密度が3倍、スイッチのシステム容量が5倍、スイッチのAIアクセラレーション能力が32倍となり、従来製品と比べて大きく飛躍しています。Dragonfly+トポロジーを活用することで、Quantum™-2ネットワークは、わずか3ホップ内で100万を超えるノードに対して400Gb/秒という驚異的な接続容量を達成することができ、AI開発者や研究者にグローバルな課題に取り組むための比類ないネットワーク性能を提供します。

NVIDIA Quantum™-2 InfiniBandスイッチ

NVIDIA Quantum™-2 InfiniBandスイッチは、MQM9790-NS2FMQM9700-NS2Fの2つの主要モデルで構成されます。これらの主な違いは管理方法にあり、NVIDIA QM9700は外部管理サポートインターフェースを備えています。両モデルとも、ポートの種類と速度は同じである。NVIDIA QM9700シリーズスイッチは、64個の400Gポートまたは128個の200Gポートを収容する柔軟なコンフィギュレーションをサポートしています。特に、NVIDIA QM9700は、32*OSFPポートのシングルパネルを備えた1U設計を採用しており、各OSFPポートは2X400Gの速度をサポートしています。

Quantum™-2は第3世代のNVIDIA SHARPテクノロジーを搭載しており、さまざまな規模のネットワークデータを集約するためのほぼ無限のスケーラビリティを保証します。第3世代のSHARPテクノロジーは、前世代の32倍という驚くべきAIアクセラレーション能力を備え、複数のテナントと並列アプリケーションをサポートし、最適なパフォーマンスを保証します。MPI_Alltoallアクセラレーション、MPIタグマッチングハードウェアエンジン、高度な輻輳制御、ダイナミックルーティング、自己回復型ネットワークなどの主要機能は、ハイパフォーマンスコンピューティング(HPC)やAIクラスタの大幅な強化に貢献します。

ConnectX®-7 InfiniBandカード

NVIDIA ConnectX®-7 InfiniBandネットワークカード (HCA) ASICは、PCIe 5.0またはPCIe 4.0ホストインターフェースの16レーンをサポートし、400Gb/秒という驚異的なデータスループットを実現します。1レーンあたり100Gb/秒の先進的なSerDesテクノロジーを活用した400Gb/秒のInfiniBandは、スイッチとHCAの両ポートのOSFPコネクタで実現されます。スイッチのOSFPコネクタは、2つの400Gb/秒InfiniBandポートまたは200Gb/秒InfiniBandポートをサポートし、ネットワークカードHCAは1つの400Gb/秒InfiniBandポートを備えています。製品ラインアップには、アクティブおよびパッシブ・カッパー・ケーブル、トランシーバー、MPOファイバ・ケーブルが含まれます。特に、どちらもOSFPパッケージを採用しているにもかかわらず、物理的な寸法に違いがあり、スイッチ側のOSFPモジュールには冷却用のヒートフィンが装備されています。

NDR光接続ソリューション

NDR光接続の課題に対応するため、NDRスイッチポートは、1インタフェースあたり8チャネルのOSFPを利用し、それぞれ100Gb/秒のSerDesを採用しています。これにより、3つの主流接続速度オプションが可能になります: 800Gから800G、800Gから2X400G、800Gから4X200Gです。さらに、各チャンネルは100Gb/秒から50Gb/秒へのダウングレードをサポートし、旧世代のHDRデバイスとの相互運用性を促進します。400G NDRシリーズのケーブルとトランシーバーは、AIコンピューティングシステムを加速させる最大500メートルのデータセンター長を中心に、ネットワークスイッチとアダプターシステムを構成するための多様な製品選択肢を提供する。パッシブ銅ケーブル(DAC)、アクティブ光ケーブル(AOC)、ジャンパー付き光モジュールなど、さまざまなコネクタータイプは、さまざまな伝送距離と帯域幅の要件に対応し、高帯域幅のAIおよびアクセラレーテッド・コンピューティング・アプリケーション向けに低遅延と極めて低いビットエラーレートを保証します。

OSFP-SR8-800G InfiniBandトランシーバー技術の概要

FS OSFP-SR8-800Gは、100G-PAM4変調を採用した2x400Gb/sデュアルポート・マルチモード・パラレル8チャネル・トランシーバとして傑出しています。この革新的な技術は、2つの4チャネル・マルチモードMPO-12/APCファイバ・ジャンパーを利用し、最大伝送距離を50メートルに延長します。このデュアルポート2xSR4トランシーバーの重要な特徴は、2つの内部トランシーバーエンジンを内蔵していることで、32*OSFPポートを備えたQuantum™-2スイッチで64個の400Gb/秒ポートを実現することができます。

モジュール導入シナリオ

OSFP-SR8-800Gトランシーバーは、NDR InfiniBand Quantum™-2スイッチエコシステムで複数の目的を果たし、他のスイッチまたはConnectX®-7アダプタ/BlueField-3 DPUに接続します。

    • 1. NDR InfiniBand Quantum™-2スイッチ - NDR InfiniBand Quantum™-2スイッチ

OSFP-SR8-800GトランシーバーとMPO-12/UPCファイバジャンパーを利用して、OSFPポートを備えたNVIDIA QM9700/QM9790スイッチは、最大伝送距離50m内で800G(2x400G)の速度で相互接続します。

    • 2. NDR InfiniBand Quantum™-2スイッチ - 400G ConnectX®-7 (OSFP/QSFP/QSFI9112) アダプタ

800Gから2x400Gリンク:デュアルポートOSFP-SR8-800Gトランシーバーは、ダイレクトアタッチマルチモードMPO-12/UPCファイバジャンパーにより、最大2台の400G ConnectX®-7アダプタおよび/またはDPUをサポートします。OSFP-400G-SR4光モジュールは、ConnectX®-7ネットワークカード側のOSFPポートに採用されています。

    • 3. NDR InfiniBand Quantum™-2スイッチ - 200G ConnectX®-7 (OSFP/QSFP112)アダプタ/BlueField-3 DPU (QSFP112)

2つの1:2分岐MPOファイバジャンパーと組み合わせた場合、デュアルポートOSFP-SR8-800Gトランシーバーは、最大4つの200G ConnectX®-7アダプタおよび/またはDPUをサポートします。前のシナリオと同様に、OSFP-400G-SR4光モジュールはOSFPポートに使用され、Q112-400G-SR4光モジュールはQSFP112ポートに使用されます。

OSFP-400G-SR4とQ112-400G-SR4の両モジュールでは、400Gトランシーバー内の2つのチャンネルのみがアクティブになり、200Gレートのリンクが確立されます。

  • 4. NDR InfiniBand Quantum™-2スイッチ - DGX H100 GPUシステム

8個の「Hopper」H100 GPUを搭載したDGX-H100 GPUシステムでは、各デュアルポートOSFP-SR8-800Gトランシーバーが、DGXからQuantum™-2スイッチへ2本の400G ConnectX®-7 リンクを確立します。この合理的なアプローチは、DGX A100のセットアップと比較して、冗長性、複雑性、ConnectX®-7カードとトランシーバーの数を削減します。また、DGX-H100は、InfiniBandおよび/またはEthernetを使用したストレージI/O用に、最大4枚のConnectX®-7および/または2台のBlueField-3 DPUを含む追加ネットワークオプションもサポートしており、さまざまなネットワーク構成に対応できます。

InfiniBand OSFP-400G-SR4トランシーバー

光トランシーバー技術の紹介

FS OSFP-400G-SR4は、100G-PAM4変調を採用した400Gb/sのシングルポートOSFPパッケージSR4マルチモード・パラレルトランシーバです。4チャンネル・マルチモードMPO-12/APCファイバ・ジャンパー1本と組み合わせると、最大伝送距離50mを達成します。1:2分岐MPOファイバー・ジャンパーと併用すると、分岐側の2チャンネルのみがアクティブになります。このユニークな構成により、自動的に200Gの速度が得られ、消費電力を効果的に削減することができます。

モジュール使用概要

OSFP-400G-SR4トランシーバーは、400Gb/秒のConnectX®-7/OSFP PCIeバス・ネットワーク・カードで重要な役割を果たし、Quantum™-2 InfiniBandスイッチ内のシングル800Gb/秒デュアルポート2x400G OSFPトランシーバー(OSFP-SR8-800G)に接続します。

OSFP-400G-SR4トランシーバーは、接続に使用されるファイバジャンパーのタイプに応じて、400Gb/sと200Gb/sの2つの速度をサポートします:

  • 400Gb/秒モード:MPO-12/APCファイバジャンパーとペアリングするこのモードでは、反対側のOSFP-SR8-800Gトランシーバーを2台のOSFP-400G-SR4トランシーバーとペアリングし、それぞれを200Gb/秒ConnectX®-7/OSFPアダプタ・カードに接続する必要があります。

  • 200Gb/秒モード:OSFP-400G-SR4は、1:2分岐MPOファイバジャンパーを利用し、200Gb/秒(NIDR200)の速度で動作し、2チャンネルのみがアクティブになるため、自動的に消費電力を削減します。このモードでは、対向端のOSFP-SR8-800Gトランシーバーを4台のOSFP-400G-SR4トランシーバーとペアリングし、それぞれを200Gb/秒のConnectX®-7/OSFPアダプタカードに接続することができます。

    • 1. NDR InfiniBand Quantum™-2スイッチ - 2 x 400G ConnectX®-7 (OSFP)アダプタ

デュアルポートOSFP-SR8-800Gトランシーバーは、2つの直接接続マルチモードMPO-12/APCファイバジャンパーと組み合わせると、最大2台のConnectX®-7/OSFPアダプタをサポートできます。各アダプタはOSFP-400G-SR4トランシーバーを採用し、最大伝送距離は50メートルです。

  • 2. NDR InfiniBand Quantum™-2 スイッチ - 4x200G ConnectX®-7 (OSFP)アダプタ

同様に、デュアルポートOSFP-SR8-800Gトランシーバーは、2つの直接接続マルチモードMPO-12/APCファイバジャンパー(M4MPOA12FB)と組み合わせて、最大2台のConnectX®-7/OSFPアダプターをサポートできます。各アダプタはOSFP-400G-SR4トランシーバーを使用し、最大伝送距離は50メートルです。ConnectX®-7/OSFPアダプタは、OSFP-400G-SR4モジュールを2チャンネルだけアクティブにして動作し、200Gレートのリンクを確立し、自動的に消費電力を削減します。

MFA7U10-H030 InfiniBandケーブル

アクティブ光ケーブル(AOC)技術概要

FS NVIDIA InfiniBand MFA7U10-H030互換OSFP 400G/QSFP56 2x200Gブレークアウトケーブルは、OSFPを2x QSFP56に変換するアクティブ光スプリッタケーブル(AOC)で、400Gb/sの速度を2x 200Gb/sに変換します。このケーブルは、1つのOSFP端から発信される8つのマルチモードファイバ(MMF)ペアからのデータ信号の各ペアを、各QSFP56マルチポート端の4つのペアに接続します。

AOCの使用状況に関する洞察

MFA7U10-H030は、OSFPポートを持つNDRスイッチを2つのHDRスイッチまたはHCA QSFP56ポートに接続する目的で使用します。

  • NDR InfiniBand Quantum™-2スイッチ - 2x HDR InfiniBand Quantumスイッチ

  • NDR InfiniBand Quantum™-2スイッチ - 2 x 200G QSFP56 Connect®-6アダプタ/BlueField-2 DPU

MTP光ファイバパッチケーブル

このMTPケーブルは8芯パッシブマルチモードファイバパッチケーブルで、各方向に4ファイバずつ、計8本のファイバを備えています。MTPコネクタは、8度研磨(APC)タイプで、光信号の反射を最小限に抑え、最適なシグナルインテグリティを確保します。このケーブルは、2台のスイッチを相互接続したり、スイッチを2台のネットワーク・アダプタに接続するために設計されており、プラガブル光ファイバ400GbE/NDRトランシーバーをサポートしています。

このMTPケーブルは、2台のスイッチを接続したり、スイッチと2台のネットワークアダプタ間の接続を確立するために作られています。このケーブルは汎用性が高く、プラガブル光ファイバ400GbE/NDRトランシーバーと組み合わせることができます。例えば、スイッチ側のInfiniBandおよびイーサネット・システム用に設計されたOSFP 800G 2xSR4デュアルポート・トランシーバーとシームレスに統合できます。さらに、ConnectX®-7ネットワーク・アダプタやBlueField-3 DPUで使用する場合は、OSFP-400G-SR4またはQSFP112-400G-SR4トランシーバーを補完します。

FSテストの紹介

包括的なテストには、ハードウェア互換性テスト(プラグ/アンプラグ、ポート再起動、電源再起動)、ソフトウェア互換性テスト(接続性、シャットダウン/シャットダウンなし、パラメーターテスト)、パフォーマンステスト(DDM、ビットエラーレート、安定性テスト)が含まれます。リンクは1週間フルスピードで運用され、パケットロス、エラー、CRCエラー、中断は発生していません。テストされたすべてのパラメータは、関連する業界標準に準拠しています。

まとめ

FSは、高性能InfiniBandネットワークの構築における深い理解と広範な実装経験により、多様なアプリケーションシナリオに合わせたスイッチ、インテリジェントネットワークカード、AOC/DAC/光モジュールの最適な組み合わせを提供します。当社の製品とソリューションは、データセンター、高性能コンピューティング、エッジコンピューティング、人工知能、その他のアプリケーションに多大な利点と価値をもたらし、低コストと卓越したパフォーマンスを組み合わせてビジネス加速機能を強化します。

1
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
1
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?