DX開発事業部の西田です！
re:Invent2024も４日目となり、アイレットブログ隊の活動も本日が最終日です。
最後のre:Playまで全力で楽しみます！
アイレットと同じKDDI Digital Divergence Holdingsグループに属するKDDIアジャイル開発センター（KAG）のAWS Hero みのるんさんのセッションを拝聴してきたのでレポートします！
セッションタイトル
Unleashing the power of generative AI on AWS for your business [Japanese] GBL206-JA
セッション概要（ツール翻訳）
このセッションは日本語で行われます。まず、ジェネレーティブ AI の観点から AWS re:Invent 2024 を振り返ります。次に、AWS ヒーロー「みのるん」こと KDDI アジャイル開発センターの御田稔が、実際のビジネスアプリケーションとビジネスのためのテクノロジーの観点から、ビルダーの経験を共有します。最後に、2025 年に何が起こるのかを学びます。
スピーカー
Rio Kurokawa
Principal Go-to-Market Specialist, Amazon Web Service Inc.
Minoru Onda
Technology Evangelist, KDDI Agile Development Center Corporation
セッション内容、感想
アジェンダは、最初にAWSの黒川さんから2024年までの生成AIを振り返り、次にゲストのみのるんさんのご講演、そして最後に2025年の生成AIの展望をディスカッションするという流れでした。
2024年 生成AI振り返り
まずは未来を予想するために歩いてきた道を振り返る。
2023年はPoC、試行錯誤の年だった。
生成AIプロジェクトは今までの作ったらしばらく使い続けられるソフトウェア開発サイクルとは異なり、四半期ごとに新しいモデルが出る。
このサイクルに2023年は感覚が追いつかないところが多かった。
2024年になりようやく感覚がつかめるようになってくる。
生成AIはオワコンか？
プロジェクトが頓挫したり、モデルの変化に右往左往したりする事例もある。
トップ企業は成果を出している、データをAWSで厳重に扱ってきたお客様は生成AIにも転用できる体制がある。
Amazonの中でも生成AIはサービスとして浸透してきている。
なぜAWSの生成AIが選ばれるのか？
求められる以上にセキュリティ要件を準備している。
APIは再利用してなんぼの精神の元、徹底的に組み合わせ、再利用可能なサービス群を備える。
生成AIのリソース制限がかからないように、マシンリソースを常に準備している。
週に４つくらいの新機能を出している。
他のプロバイダーと比較しても圧倒的。
Amazonは、再生可能エネルギー100%の目標を7年前倒しで達成している。
生成AIの仕組み：カストマイズ
Amazon Novaがリリースされモデルの準備はできた。
しかしモデルの構造はチーズの穴のように、知識が深いところと浅いところがある、皆様のデータで穴を埋める必要がある。
今年そのために一番活躍したのはRAG。
Amazon Bedrock Knowledge Baseデータコネクター拡張が東京リージョンでもプレビュー中。
もう一つのチーズの穴を埋める方法はファインチューニング。
Claude 3 HaikuのファインチューニングがGA。
Amazon Bedrock Agentsは出た当初は５個くらいのタスクでそれ以上やるとアベンドしてしまっていたが、現在は100タスクはこなせるようになっている。
責任あるAIを実現するためのためのガードレール。
ゲストご講演
ここからみのるんさんにバトンタッチ。AWSユーザーの目線で話す。
Amazon Bedrockが好きすぎて入門書を執筆、先日２回目の重版が決定！
生成AIブームの終わりがまったく見えない、インターネットのように使って当たり前の技術になりつつある。
KAGでのBedrock活用
ビジつく！
宇宙最速でリリースしたBedrockプロダクト！
かぐたん
グループ会社へデプロイできるようにCDK化された生成AIチャットボット。
（アイレットもグループ企業なのでかぐたんはSlackワークスペースに住んでます）
議事録パックン
KDDIの営業向けの議事録生成ツール。さらに議事録から提案書のたたきを商材をRAGして作ってくれる。
本部長AI（仮称）
目下開発中のプロダクト。本部長のスケジュールが埋まっててもいつでもレビューしてくれる。
本部長ご本人の那谷さんも気に入ってくれている。
なぜAWSか
ユーザーから見たAmazon Bedrockのメリット
生成AIビルディングブロックとして使える。
一個一個はそこまで難しくなく、組み合わせて複雑なサービスも作れる。
AWSワールドの中で生成AIアプリを作れるのが嬉しい。
マネージドサービスであること。
自分でLLMを使ったアプリを作るとよく分かるが、機能を増やすとどんどんコードが複雑になる。
Amazon Bedrockではそういった機能がマネージドで用意されているので使うだけでよい。
開発者を確保しやすい。
相談できるコミニティもある。
「ウチの会社にAI入れるの、大変かも…？」
みのるんさんはどのようにAmazon Bedrockの導入を自社で進めたか。
まずは出向元で整備を始めた。推進は必ずしも一人でやる必要はない。
モデルの性能は成熟してきていて、アップデートも速い。
できれば海外リージョンも積極的に使おう。
なんとなく避けがちだが、実際使ってみるとレイテンシーもセキュリティも問題にならないことが多い。
Bedrockのイチオシ機能
RAGがないとき〜あるとき〜（551風）。
RAGは結構構成要素があるが、ナレッジベースを使えば簡単に使える。
30分で試せるハンズオン記事。
１問１頭で細かく指示するのはめんどくさい。会話じゃなくて仕事をしてほしい。
と言った時にエージェントを利用する。
エージェントのすごいところは行動計画を立て、必要に応じて外部のツールを呼ひだし、目的達成まで動いてくれて最終結果だけをくれること。
サンプルアプリ「パワポ作ってメールで送るマン」のデモ。
エージェントで大事なのは結構処理に時間がかかるから、今何してるか画面に出すことで進捗がわかるようにする。
こちらも作成手順を公開している。
Amazon Bedrock Flowsに名前が変わった。
こういうの最近流行っているがSaaSではなく、Bedrockにマネージドで搭載されているのでされているので追加ライセンスが必要ない。
実際の開発の中で学んだ生成AIアプリ開発Tips
推論に時間がかかってタイムアウトするケースでは非同期アーキテクチャのアプローチで解決。
以前はマルチモーダルLLMをつかった変換パイプラインを自分で書かなければ行けなかったが、ナレッジベースにパース処理が追加された。
更に昨日Bedrock Data Automationもプレビューリリースされた。
言うこと聞かないとき、ツール３つ使ってほしいのに２つしか使わないなど。
LangGraphを使えばすごろくみたいにステートマシンを持てる。
生成AIって本当に楽しい
アイデア次第で簡単にアプリが作れる。
ディープラーニングの知識は特に必要ない。
毎週のように日々新しいアップデートがあり、追いかけるのが楽しい。
ちょっと触るだけで理解の解像度があがる。
クラウドのいいところはアカウント作るだけで試せること。
2025年 生成AIの展望
2025年 生成AIの展望として20個のアップデートを振り返り、4つずつのうち1個をピックアップして、みのるんさんにグッときたものを教えてもらい、来年を占う。
イラストはAmazon Nova Canvasがまだ出てなかったのでAmazon Titan Image Generator V2.0で書いたが干支の概念を理解していた。
メタデータフィルタリングの自動化
例えばRAGで新宿区のデータ取るつもりが中野区の情報を取ってきてしまうなど。
データソースにタグをつけてそれをフィルタする機能はもともとあったが、タグ付けすらもClaudeにやらせることができるのは画期的。
マルチエージェント、Novaじゃなかった
エージェントはすごく大事な技術、RAGで飽きられて使えないってなったらブームが萎んでしまう。
生成AIの価値は勝手に考えて動いてくれるところ。
複数のエージェントを協力させて、会社のように仕事ができれば経営層に刺さる。
Novaについて黒川さんがフォロー。
なぜAndy Jassyが発表したか、NovaはAmazonの持ち物のため。
Amazonは３分で買い物いただく考え方。
Reelの動画秒数もそれくらいまで伸びていくだろう。
生成AIの世界は１年経ったらスタートアップが追い上げてくる。
１年経った時のNovaは期待できると思う、CanvasやReelを是非お使いください。
プロンプトルーティング
エージェントでめちゃめちゃSonnetを読んでいたらい金がかかる。
このタスクだけHaikuでとかをコードで書いていたが、プロンプトルーティングはクエリの複雑度で判断してくれる、注意点は英語にしか対応してないこと。
Amazon Kendra GenAI Index
昨年散々RAGでKendraを触って高いとなってた。
ここにきて安くなって検索精度も上がった、さすがAmazon。
新しいKendraはRAGに特化したハイブリッド検索でさらにナレッジベースから使える。
今までS3にものを置かないといけなかったが直接コネクタで見に行ける。
但しまだ英語のみ対応。
黒川さん、いつとはいえないが結構近くに、結構近い場所にもでるかも？
GraphRAGについても。
年初からAmazonに厳しく今年出せと言われていた。
Amazonのビジネスは配送に関わる、サプライチェーンの関係を取得できるのは必須だった。
自分でやるとGraphDBの扱いが難しいが、ナレッジベースに置いておくだけでGraphRAG化してくれるのが画期的だった。
RAG evaluation and LLM-as-a-judge
RAGの評価をどうやってやるかという課題がある。
人の手を使わずに自動で判別させるのも難しいがそれをLLMにやらせることができる。
これをBedrockでマネージドでできるのが嬉しい。
最後に
日本に戻るみなさんに、来年にあたって一言。
AWSのコミニティやAWS Heroについて基調講演で言及があってグッと来た。
利用者のこともAWSは考えてくれている、コミニティでも情報共有してくれてる。
この関係はWinWinで、こんな情報共有ができるプラットフォームは珍しい。
聞いているみなさんもこれを活かして、社外の人とも喋ったり、勉強会に参加したり、ぜひ周りの人と技術交流してほしい。
来年に向けてハードルがあるとすると今後生成AIが打ち上がるかは、いかに生成AIの価値をエンジニアだけじゃなくてビジネス層に刺さるよう伝えていくか。
業務的なメリットを沢山の人に伝えて行きたい。
JAWSはすごい。会社四季報も取り上げているくらい。
re:Invent中にJAWSのフィードバックをBedrockの開発責任者にみのるんさんが伝える会があった。
いちユーザーのフィードバックから真摯に受け取ってくれた、共感してくれ、みのるんさんとしてBedrockの方向性に安心したのが大きかった。
お二人共も登壇のレベルが高く非常に面白く、感銘を受けるセッションでした。
私も今年は登壇する機会が多かったですが、みのるんさんの登壇に比べると全然まだまだでもっと上手くなりたいと気合が入りました！
生成AIの取り組みで同じグループ会社といえど、アイレットも負けないようにこれからも切磋琢磨してこうと思いました！
※セッション後、名刺交換と写真撮影をさせていただきました笑。みのるんさんありがとうございました！
 |
2024年12月19日(木)18時より、「AWS re:Invent 2024」のポイントを解説する「AWS re:Invent 2024 re:Cap presented by iret」を開催します。 |
