はじめに
最近ついにAWSが生成系AIサービスである「Bedrock」をリリースしましたが、リリース直後にBedrockについてのセミナーがありました
日本企業のビジネスニーズに応える生成系 AI – Amazon Bedrock の可能性（会場）
こちらのイベントに現地参加してきましたので、参加レポートを残しておきます
プレビューでBedrockを使用した企業の事例も紹介されており、Bedrockをどのように使用すればいいのかを考える上でとても参考になるセミナーでした
開催概要
会場はANAインターコンチネンタルホテル東京、オフラインのみでの開催でした
高級感のある会場で、ヴァシ・フィロミンさんのセッションでは同時通訳が提供されるなど、AWSのBedrockに対する本気度を感じました
また、ノベルティとして高級感のあるノートももらえました
（撮影・録音NGとのアナウンスがあったので、会場の写真はありません）
アジェンダとしては、AWSからのBedrockの紹介とプレビューで利用した企業事例の紹介、大きく分けて2部構成でした
- AWSから
- AWS Japan 社長の長崎忠雄さんからご挨拶
- AWS Amazon Bedrock 統括 ヴァシ・フィロミン（ Vasi Philomin )さんからBedrockの紹介
- 一部デモンストレーションあり
- プレビュー利用企業からの事例紹介
- 竹中工務店さん
- アクセンチュアさん
- 富士ソフトさん
概要レベルではありますが簡単にまとめを記載します
AWSヴァシ・フィロミンさん：日本のお客様へのメッセージ
登壇者
Amazon Web Services Inc.
Vice President Generative AI Amazon Bedrock 統括
ヴァシ・フィロミン（ Vasi Philomin )
- 最初にBedrockを使用したチャットのデモンストレーションからスタート
- バスケの試合結果について質問
- ハレシネーションを考慮し、実際の試合結果が記載されているWebサイトのリンクも一緒に回答させることが可能
- ※ハレシネーション：AIが誤情報をそれらしい文言で出力してしまうこと
- イントロ
- さまざまなお客様が新規サービス開発、生産性向上に生成系AIを使用したがっている
- クラウドが使われるようになって以来の転換点だと思っている
- データ拡散、計算能力の向上がAIブームの背景にある
- パラメータ数も爆増、2019年時点では330Mパラメータだったが、それが今では540Bパラメータに（1600倍！！）
- 基盤モデルについて
- 基盤モデルの仕組み
- 前に出てきた言葉を元にして、次の言葉を予測して回答を作成している
- 基盤モデルの種類
- テキストtoテキスト
- チャットのように、テキストの入力に対してテキストの出力を返す使い方
- テキストtoエンベディング
- テキストや単語をベクトル的に処理し、類似する単語や文章を導く使い方
- マルチモーダル
- テキストから画像生成をする使い方
- テキストtoテキスト
- 基盤モデルの仕組み
- AmazonでのAI/ML活用
- 生成系AIブームの前から、AmazonではAIを業務に活用してきた
- Amazonでの取引
- アレクサでの会話
- ユーザーの会話データを蓄積
- Prime Airのドローン配送
- フルフィルメントセンター（倉庫）でのAIとロボットの活用
- 受注処理
- パッケージ発送
- 人とロボットが一緒に倉庫で働いている（実際のAmazonの倉庫の動画が流されました）
- ロボットとベルトコンベアで小さいカートに荷物が積まれ、積まれた荷物を人間が運ぶ、というオペレーションをしている
- 生成系AIブームの前から、AmazonではAIを業務に活用してきた
- 生成系AIでできること
- 活用されるユースケースは、主に3つに分類できる
- カスタマーエクスペリエンスの向上
- 生産性、創造性向上
- ビジネスプロセスの最適化
- 生成系AIジャーニーを考える時に必要な要素
- 最も簡単な構築方法
- どの基盤モデルを使用するかを考える
- Bedrockならすぐに基盤モデルが使用できる
- 東京リージョンへの提供も開始！！！
- データによる差異化
- データをプライベートかつセキュアに管理する
- 生成系AIの利用において、どうやって他社と差別化するかどうかで鍵になる観点
- 最も高性能、低コスト
- 拡張可能なインフラ
- 生産性向上
- 生成系AIを使用してのアプリケーション、サービス開発
- 最も簡単な構築方法
- 活用されるユースケースは、主に3つに分類できる
- Bedrockで利用できる基盤モデルについて
- 最初はAmazonが提供するTitanモデルからスタート
- Anthropic,coheraなどのプロバイダーが提供しているモデルも利用可能
- MetaのLlama2も追加する予定
- AnthropicのCEOからビデオメッセージ
- 日本語、英語でモデルを使用可能
- 東京リージョンでも提供開始するのでぜひ利用してほしい
- Stability AIの日本担当からビデオメッセージ
- Stability AIが提供しているモデルであるStable Difusionは、現在いろいろなサービスで利用可能
- Bedrockでも利用可能に
- サーバレスであれば、ネックに感じるGPUの管理などからも解放される
- 日本語の画像生成モデル、音楽や音を生成できるモデル、などを今後Bedrockに追加する予定
- プレビュー期間に利用していただいたお客様
- 竹中工務店さん、アクセンチュアさん、富士ソフトさんでプレビュー実施済み、この後事例紹介をしていただく
- アサヒグループさんでも活用いただいている
- その他にも、KDDIなどのロゴがありました
- Bedrockの機能
- 基盤モデルを独自にカスタマイズ可能
- 文章に対するラベル付けをカスタマイズすることで、チャットの精度を向上させる
- データをプライベートかつセキュアに
- 使用している基盤モデルはコピーであり、モデルそのものの学習にデータが使われることはない
- VPCで利用可能、暗号化もされる
- GDPRやHIPAAなどにも準拠
- Agent for Amazon Bedrock
- Bedrockはモデルとナレッジを分けている
- ナレッジは時間が経つにつれて変わっていくものなので分離させている
- 社内のAPIをAgentに教えることで、社内のナレッジを使用して回答するモデルを構築可能
- 公開APIを利用してホテルの予約なども任せることができる
- Bedrockはモデルとナレッジを分けている
- 基盤モデルを独自にカスタマイズ可能
- 生成系AIの性能とコスト
- AAWSではコストパフォーマンスを向上させる努力をしてきた
- 機械学習向けプロセッサのTranium、Inferentiaを自社で開発し、CodeWhispererなどに活用してきた
- AAWSではコストパフォーマンスを向上させる努力をしてきた
- CodeWhispererを使用した生産性の向上
- ほとんどの時間をコーディングに使用していると思うが、単なるコーディングは差別化に繋がらない
- CodeWhispererを使うことでより生産的な業務にリソースを避ける
- コードの提案
- 脆弱性のスキャンも実施
- CodeWhisperer Customization Capabilityの提供開始
- CodeWhispererにカスタマイズ機能が追加、まもなくプレビューが開始する予定
- 内部のコードベースに基づいた組織固有の推奨コードを生成可能に
- https://aws.amazon.com/jp/codewhisperer/customize/
- 生成系AIジャーニーを始めるためにすべきこと
- 正しいユースケースを選択
- まずはデータソースを整備することからスタートすべき
- 日本の企業では、まだまだデータを十分に活用し切れてない
- トレーニングを活用、社員のスキルアップ
- デジタルスキルを積極的に学び、活用する雰囲気作りに力を入れていくべき
- AWSはトレーニングのためのデジタルコースも提供中
- 無償、低コストで学習できるトレーニングを提供しているのでぜひ活用してほしい
- Bedrockのコースもリリース！日本語でも提供開始！
- ユースケースを考えてPoCを始める
- 試す、エキスパートにアドバイスしてもらう、を繰り返す
- AWSでは生成系AIイノベーションセンターを設立
- 1 億投資して設立！
- お客様の生成系AIジャーニーをサポートすることに注力している
- 正しいユースケースを選択
竹中工務店さんの事例：ユーザー企業における生成系 AI 基盤サービスへの期待
登壇者
株式会社竹中工務店 執行役員 デジタル室長 博士（工学）
岩下 敬三さん
- 竹中工務店について
- 建築を軸に事業拡大
- 目下の課題は労働生産性の向上
- 建築業界は労働生産性が横ばいで特に深刻
- 生産性を向上させて働きやすい環境を整えることが喫緊の課題
- 竹中工務店のデジタル化への取り組み
- 全ての業務をデジタル化、クラウド上に蓄積したデータをさらにデジタル活用することを目指している
- 最終的には建築のデジタルツインを実現させたい
- 生成系AIの活用
- ベテランのナレッジを若手の育成に活用する「デジタル棟梁」の開発
- 安全安心に利用できる、カスタマイズが可能、社内ナレッジの継続的な蓄積、この3つの要件にマッチしたと考えBedrockを利用開始
- 利用事例の紹介
- 6月から3ヶ月間Bedrockを利用
- BedrockはGUIで基盤モデルの選択がしやすくなっている点が良い
- 同じことをさせても、モデルによって癖があることがわかった
- デジタル棟梁になるためには、そのまま使用するのでは不十分
- そのため、質問に関する専門情報を参考に与えて回答させる手法（RAG）を使用
- モデルをそのまま使用する場合よりもより専門的な回答を得ることができた
- まとめ
- Bedrockを使用するメリット
- 複数モデルを使用可能
- サーバレスであること
- AWSのマネージドサービスとの連携がしやすいこと
- Bedrockを使用するメリット
アクセンチュアさんの事例：アクセンチュアが推進する生成系 AI のビジネス活用
登壇者
アクセンチュア株式会社 執行役員 ビジネスコンサルティング本部 AIセンター長 博士（理学）
保科 学世さん
- AWSとアクセンチュアの取り組み
- アクセンチュアでは今、会社自体を生まれ変わらせようとしている
- AWSと戦略的競業体制を結んでいる
- 働き方の変革、トレーニングに生成系AIを活用しようとしている
- CodeWhispererを開発現場でアクセンチュア自身が活用、生産性向上を実感した
- 生成系AIの影響力
- コンサル業界では40%が大規模言語モデルに置き換わると言われている
- 一番影響が大きいと言われている金融業のお客様の感度が非常に高いことも実感している
- 一番影響度合いが低い天然資源業界であっても25%は置き換わると言われている
- 日本では労働人口の減少が著しい、「AIに仕事が奪われる」ではなくどんどん活用していく必要があると考えている
- 日本ではAI実践の場面が非常に多いとも捉えることができると思っている
- Bedrockのメリット
- 企業向けにフォーカスしたサービスである
- オープンエコシステムであること
- 複数のモデルが使用可能
- 高コストパフォーマンスであること
- 実際に使ってみて実感した
- AI Hub プラットフォーム
- AIのいいところを組み合わせたプラットフォームを開発中
- 以下に業務を止めずにいかに新しい技術を取り込むか、を気にしてAIの脱着可能を意識している
- 既存システムへの接続もしやすいように開発
- アクセンチュアの価値提供について
– 生成系AIを理解した上で、いかに実業務に活用していくのかが重要と考えている
– ハレシネーションなどをどうハンドリングするのか
– 責任あるAIに関する知見・ノウハウも考える必要がある
– あるべき姿に立ち返ることが重要だと考えている
富士ソフトさんの事例：富士ソフトが取り組んだ Amazon Bedrock の検証結果概要と可能性
登壇者
富士ソフト株式会社 執行役員 ソリューション事業本部 副本部長
山本 祥正さん
- 富士ソフトの取り組み
- お客様からのBedrockの引き合いも多い
- Bedrockを使用して技術検証を行ったので、その結果を一部ご報告
- DeepRacerで富士ソフトのエンジニアがランクインしたことも
- 生成系AI活用フェーズでのBedrockとKendraの組み合わせ
- Kendraを使用して回答精度を向上させることが可能
- ピンポイントな回答を可読性高く取得できる
- Kendraではない他社サービスだと、回答が遠回しになる傾向が見られた
- コスト（費用と運用のコスト）効率も高い
- データクレンジング、チューニングをKendraは自分自身で実施する
- 他社も似たような機能はあるが、癖があったり手間がかかったりする
- LLMとサーチエンジンの組み合わせサービスが乱立すると予想している
- Kendraを使用して回答精度を向上させることが可能
- TwinMakerと統合することでデジタルツインも実証済み
- 既に使用しているAWSサービスとの統合がしやすいのもBedrockのメリット
まとめ
タイトルから予想して、ビジネス観点での話が中心になると思いきや具体的な機能や実装にも触れる部分もあり、非常に濃密な内容になっていました。
また、Bedrockの東京リージョン提供開始、CodeWhisperer Customization Capabilityのプレビュー開始など、ワクワクする発表もあり、プチre:Invent感を味わうことができました。
話を聞く中で、AWSのサービスであるという点がBedrockの大きな優位性だと感じました
クラウドシェアトップであるが故に、データの一部あるいは全てをAWS上に保存している企業は非常に多いと思います。
そのデータを利用する上で、わざわざBedrockではない他社生成系AIサービスを使う理由はあまりないように思います。
また、AWSのサービスが充実している点も優位性になると感じました。
例えば今回のセッションでも登場した、検索エンジンサービスのKendraや、デジタルツインを構築するTwinMakerなど、AWSには非常に多くのサービスが存在します。
これらのサービスとうまく組み合わせることで、要件通りのシステムをAWSのサービスだけで構築することができると感じました。
特に、各セッションで度々登場した「Bedrock × Kendraの組み合わせによるRAGの構築」のパターンは、これから各社真似する構成になると思います。
※RAG（Retrieval Augmented Generation）：ある特定のナレッジデータベースなどを基盤モデルに検索させることで、社内ナレッジや専門領域に特化した回答ができるAIを開発する手法のこと
私自身もまだまだ生成系AIについて勉強中ですが、頑張ってキャッチアップしていこうと思います
参考
この記事を書くうえで、登壇者の情報やセッションの内容のダブルチェックとして以下の参加レポートを参考にさせていただきました。
日本企業のビジネスニーズを支える生成系AI – Amazon Bedrockの可能性に行ってきました！
なお、AWSが公式にイベントレポートをあげていますので、こちらも併せてご確認いただければと思います。
