YE2-01

6.13(木) 10:30-11:50 | RoomYE

×

Gen AI時代のデータセンターネットワーク最新動向

大規模言語モデル(LLM: Large Language Model)や生成AIなどの急速な発展と普及により、大規模なAI計算基盤が整備されています。大規模AI計算基盤では、これまでのデータセンターネットワーク技術との親和性からEthernetやInternet Protocolをベースとした技術も広く採用されています。しかし、AIの推論や学習といったワークロードのトラフィックは、従来のデータセンターネットワークとは大きく異なります。本セッションでは、AI計算基盤におけるデータセンターネットワーク技術の最新動向を紹介します。 また、AI計算基盤におけるデータセンターネットワーク技術として、RoCEv2 (RDMA over Converged Ethernet version 2)やAIワークロードの通信トラフィックの特徴などの基本的な技術・課題を解説するとともに、最新動向として2023年に活動を開始したUltra Ethernet Consortium (UEC)についても紹介します。UECは、従来の広帯域低遅延でのノード間のメモリ転送(メモリアクセス)を実現するRoCEv2に加えて、AI学習で発生する集合通信(Collective Communication)やそのような通信を支える輻輳制御や経路制御技術、ソフトウェアスタック、マルチテナンシーを考慮したセキュリティもフォーカスに含まれています。UECの最新動向を踏まえて、近い将来のAI計算基盤を設計・構築・運用する上で必要不可欠な技術についても議論します。
<要旨>

●AI計算基盤を支えるネットワーク技術(ハードウェア・ソフトウェア・プロトコル) ●Ultra Ethernet Consortium (UEC)の紹介 ●AI時代のデータセンターネットワーク技術についての議論

  • AIインフラ
  • ネットワーク
  • データセンタ
Speaker

Arrcus Inc.

プリンシパル エンジニア

海老澤 健太郎

インターネット黎明期の1990年代からADSL/FTTH/VPN等の分野を中心とした新技術や製品の技術検証、サービス導入支援を実施。その後、ベンチャー企業数社にて製品デザインや開発マネジメントを担当し、ASICやFPGAを用いたフロールーターやOpenFlowスイッチ開発を行う。また、大手自動車メーカーや通信事業者にてデータプレーンプログラミング(P4)を活用し、次世代携帯網やデータセンターで活用可能な新しいプロトコルや技術に関する研究を行う。現在はArrcus, Inc.にてスイッチASICを活用したネットワーク機器の研究開発に従事している。

Speaker

Cisco Systems, Inc.

Jake Katz

Chair

(株)Preferred Networks

シニアリサーチャー・インフラ戦略担当VP

浅井 大史

閉じる