NTT Com、IOWN APNを活用した分散データセンターでの生成AI学習実証実験に世界で初めて成功

2024.10.07 11:00

この企業へ連絡する

　ドコモグループの法人事業ブランド「ドコモビジネス」を展開するNTTコミュニケーションズ株式会社(以下 NTT Com)は、超高速かつ超低消費電力を実現するIOWN構想※1の主要技術であるオールフォトニクス・ネットワーク（以下 APN）で接続した複数のデータセンターにNVIDIA GPU搭載サーバーを分散配置した環境で、NVIDIA AI Enterprise プラットフォームの一部であるNVIDIA NeMo(TM)※2を用いた生成AIモデル学習の実証実験(以下本実証)に世界で初めて成功しました。

1.背景

　生成AI、データ利活用、画像処理などの分野でGPUクラスタの重要性が高まる中、サービス提供事業者や利用者にとって従来は単一のデータセンター内でGPUクラスタを構築・利用することが一般的でした。しかし、単一のデータセンターでは、生成AIのモデルサイズ増大に伴う処理量の変動に応じてオンデマンドにGPUリソースを入手できないことや、1拠点のデータセンターのキャパシティや電力供給に制限があること、利用者の拠点から移動できない機密度の高いデータの取り扱いが難しいことが課題でした。

　本実証により、IOWN APNを用いた分散データセンターにおける、GPUクラスタでの処理の有効性を確認することで、GPUクラスタ利用者や提供事業者の課題解決に貢献します。

2.本実証の概要

　NVIDIA GPU搭載サーバーを約40km離れた三鷹と秋葉原のデータセンターに分散配置し、データセンター間を100Gbps回線のIOWN APNで接続しました。NVIDIA NeMo(TM)を使用して、両拠点のGPUサーバーを連携させ、生成AIモデルの分散学習を実施しました。なお、本実証はデル・テクノロジーズ株式会社によるGPUサーバーやストレージなどの機器提供および協力のもとで実施しました。

　本実証で用いた技術の主な特長は以下の通りです。

(１) IOWN APN

IOWN APNの高速大容量・低遅延接続により、GPUサーバー間のデータ転送が迅速かつ効率的に行われ、小規模なAIモデルの事前学習や追加学習などの比較的軽量な処理に対して、単一のデータセンターと遜色ない性能を発揮できます。これによって、複数のデータセンター環境で柔軟にGPUクラスタを構築し、効率的なリソース利用を実現することが可能です。

(２) NVIDIA NeMo(TM)

分散学習に対応した大規模言語モデルの学習、カスタマイズ、展開のためのエンドツーエンドプラットフォームであるNVIDIA NeMo(TM)を活用しました。今回の実証で扱ったLlama 2 7B※3以外のモデルなど、将来的にさまざまな生成AIの処理に対応可能です。

<実証のイメージ>

3.本実証の成果

　本実証は世界で初めて、高速大容量・低遅延な接続を可能とするIOWN APNとNVIDIA NeMo(TM)を組み合わせた環境で、生成AIのモデル学習（Llama 2 7Bの事前学習※4）を動作させることに成功しました。

単一のデータセンターで学習させる場合の所要時間と比較して、インターネット経由の分散データセンターでは29倍の時間がかかるが、IOWN APN経由の分散データセンターでは1.006倍と、単一のデータセンターとほぼ同等の性能を発揮できることを確認しました。

4.今後の展開

　本実証の成果をもとに、IOWN APNで接続された分散データセンターにおけるGPUクラスタの可能性をさらに広げ、国内70拠点以上のデータセンター間などを接続可能な「APN専用線プラン powered by IOWN」や、液冷方式サーバーに対応した超省エネ型データセンターサービス「Green Nexcenter(R)」、などを組み合せたGPUクラウドソリューションとしてお客さまへ提供をめざします。

５. docomo business Forum'24 出展情報

　2024年10月10日(木)～11日(金)に開催する「docomo business Forum'24」にて、本実証を展示予定です。公式Webサイトの展示情報よりご確認ください。

公式Webサイト：https://www.ntt.com/business/go-event.html?ir=nr

■展示名：その瞬間を感じるIOWNの世界

■展示番号：IV-01

＊会場：ザ・プリンスパークタワー東京 B2フロア

https://www.ntt.com/business/go-event/access.html

＊日時：2024年10月10日(木)～11日(金) 9:30～17:30

＊参加方法：公式Webサイトより事前に来場お申し込みをお願いします

＊参加費用：無料