セッション概要

公式ポータルより引用

From the very beginning, the AWS network has been the foundation for how AWS delivers on the promise of cloud computing. In this talk, join Dave Brown, VP of Amazon EC2 Networking and Compute Services, as he looks at the history of AWS networking and how its growth and innovation continues to this day—helping unleash your creativity and make leaps forward in what’s possible. With a combination of real-world examples and looks behind the scenes, Dave dives into the latest innovations in AWS core networking infrastructure, VPC networking, data center networking for AI/ML, security, and global connectivity.

(DeepL翻訳)
当初からAWSネットワークは、AWSがクラウドコンピューティングの約束を実現するための基盤でした。本講演では、Amazon EC2 Networking and Compute ServicesのVPであるDave Brownと一緒に、AWSネットワークの歴史と、その成長と革新がどのように今日まで続いているかを見ていきます。AWSのコアネットワーキングインフラストラクチャ、VPCネットワーキング、AI/ML向けデータセンターネットワーキング、セキュリティ、グローバルコネクティビティにおける最新のイノベーションについて、実例と舞台裏を交えてご紹介します。

結構ボリュームのあるセッションでしたので、前半(本記事)と後半に分けて記事を書きます

セッション全体を簡単に説明すると、前半はAWSのネットワークインフラについての説明、後半はAWSのネットワーク系サービスの最近のアップデートや新機能の紹介、といった構成になっていました

リージョン

• AWSではリージョンを重視している
  • なぜリージョンが重要なのか？
    • ガバナンスやレイテンシーなどを考える上で、お客様に選択肢を与えるために数を増やす
• 数以上に、リージョンを「どうやって作るのか」が重要である
• 他のクラウドプロバイダーはとは異なる考えを持ってリージョンを作っている
  • 十分離れているものの、レイテンシーが大きくなり過ぎない位置関係になるようにリージョンを作っている
  • ユーザーが安心して重要なワークロードをAWSに預けてられるようにしている
• さらに、レイテンシーを低くするためにローカルゾーンも用意
  • お客様事例
    • ネットフリックスのような映像編集企業
      • 映画の編集でレイテンシーが重要になってくるため、ローカルゾーンの需要があった
      • ローカルゾーンを使用することで、普通なら25msのレイテンシーがあるのを2msまで短くすることができる

• PROTO社
  • ホログラム映像を投影するサービスにローカルゾーンを使用

NitroシステムとNW帯域

• Nitroシステムにおいてもネットワークは分離している
  • ネットワーク帯域の大幅な増加もNitroシステムのおかげ
  • Nitroシステムがなかったらここまで増えることはなかった
• 2020年以降は、AIMLワークロードに対応するためにさらなる拡張を遂げた
  • 2020年：400Gbps
  • 2023年：3200Gbps

• ただし、やはり光の速度を超えることはできない
  • トラフィック輻輳への対策が必要になる
  • パフォーマンス向上の限界などがあるため、物理的に分離する「ウルトラクラスター」というアーキテクチャを実装
    • ウルトラクラスター2.0ではAWS独自のルーティングプロトコルを使用している

所感

レイテンシーや信頼性の向上という地道なアップデートを重ねながら、結果として最近注目のAIのインフラとして機能しているということがわかるセッションでした
日頃あまり意識しないようなネットワークの細かいところまで紹介されており、とても興味深い内容でしたのでアーカイブが公開されたらもう一度見てみたいと思います