ユナイテッド空港で活用されたジェネレイティブ AI 開発を BedRock で加速させるためセッションの説明となります
アジェンダ
ユナイテッド空港の抱える様々な課題
なぜ generativeAI が適しているか、
それは以下の図をまとめていうとスピード感であり、
またそれを活用するためには generativeAI を活用できる人材の育成が必要となります
アーキテクチャ
アーキテクチャを利用して、外部 API との結合が可能となります。
このテンプレートはアーキテクチャのサマリーです。
特にビジネスユーザーへのアプローチに重きを置いたアーキテクチャとなります。
AWS & ベッドロックはナレッジベースのサービスの構築に重きを置いています。
強固な DataOps と genAI
特にこの図の中で大事なのは、既存の ML モデルとの両立を実現しているところとなります。
また、非構造化されたデータとモデルへの責任も満たしているものとなります。
バリューを重視したベッドロックのポテンシャルが以下の図となります。
様々ありますが、一番重要なのが、securiy を柔軟に楽に実現できること、それを様々な顧客に提供できることも大きな強みとなります。
Customerとの様々なやりとりを改善していくものとなります。
顧客を中心とした5つのアプローチを表しています。
クイックなモデルタイピングと、中央集約された情報の構造が必要でした、
また柔軟なスケーリングも大切となります。
最後に
genAI の将来に対して、以下のような責任を持つ必要があります。
ResponsibleAI に関しては、データの使用とセキュリティへの責任、
Platform に関しては、United’s の ML プラットフォームへの堅牢性を維持すること
モデルに関しては、ML テンプレートに関してのリトライなど柔軟なインフラを実現できることとなります。
以下セッション時のデモイメージを簡易に掲載します
詳細を開く
bedrockマネコンを開き
bedrockの実行
ローカルホストでの推論結果
ローカルホストでの推論結果2
※帰国後追記予定
2023年12月7日 (木)「AWS re:Invent 2023」のポイントを解説する「AWS re:Invent 2023 re:Cap presented by iret」を開催します。 詳細はこちら:https://cloudpack.jp/lp/aws-reinvent-recap-2023/ |