【AWS re:Invent 2023】AIM333 | Amazon Bedrockでトップユースケースのテキスト生成FMを探る

セッション概要

公式ポータルより引用

Foundation models (FMs) can be used for natural language processing tasks such as summarization, text generation, classification, open-ended Q&A, and information extraction. With Amazon Bedrock, you can choose powerful FMs from AI21 Labs, Anthropic, and Cohere to find the right FM for your use case such as the Jurassic-2, Claude, and Command families of text-generation FMs. Join this session to learn which FM is best suited for your use case.

(DeepL翻訳)
ファウンデーションモデル（FM）は、要約、テキスト生成、分類、自由形式のQ&A、情報抽出などの自然言語処理タスクに使用できます。Amazon Bedrockでは、AI21 Labs、Anthropic、CohereからパワフルなFMを選択し、テキスト生成FMのJurassic-2、Claude、Commandファミリーなど、ユースケースに適したFMを見つけることができます。このセッションに参加して、あなたのユースケースに最適なFMを学びましょう。

本記事は、テキスト生成FMが使われるユースケースの紹介に焦点を当てて記載します
併せて、最後に行っていたGuardrails for Amazon Bedrockを使用した場合のコンソール画面の紹介も少し記載します

ユースケースと特徴

テキスト生成FMを使用するユースケース12個の紹介

以下、ユースケースの中からピックアップして紹介がされていました
まずはカスタマーをリアルタイムでサポートする目的でテキスト生成を行う場合

同じくカスタマーの支援のユースケースで、カスタマーの課題を解決する目的で使用する場合
この例ではLlama2を使用した場合の出力結果が載っていました

社内向けの活用事例として、議事録からアクションアイテムを抽出してテキスト生成する場合が紹介されていました
ここではJurassic 2 Ultraを使用した場合の例が紹介されていました

また、ブログのアジェンダを作成する目的でのユースケースも紹介されていました
これはClaude2を使用した場合の例でした

ここからうって変わって、契約書から情報を抽出するユースケースが紹介されていました
これはCohereを使用していました

さらに、契約書の中身の管理に使用するユースケースも紹介されていました
これはClaudeインスタンスを使用した例です

以上のように、Bedrockではテキスト生成の目的であっても数多くのモデルを使うことができます

ここで、テキスト生成FMを比較する上での観点について考えてみる

まずはユースケースの分類
大きく分けると3つ

• テキスト処理
• 検索
• 会話

次はモデルのサイズについて
ここでいうサイズはモデルの機能の大まかな指標であり、パフォーマンスを示しているわけではない
また、プロバイダーは詳細な数値を示さず、大、中などの表現を使用することがある

言語のサポートも観点の一つである
ほとんどのモデルでは複数の言語に対応している
また、プログラミング言語やスクリプト、構成ファイルのサポートについても考慮する必要がある

テキストサイズも重要な観点である
おおよそ4,000~100,000の範囲で定義されていて、トークンのサイズも確認する必要がある
また、サイズの大小によって精度が変わるかどうかを考えることも重要

ファインチューニングによるカスタマイズができるかどうかも重要な観点の一つである

さらに、トレーニングと調整も比較する上で重要

最後に、Bedrockのモデルごとにコンテキストサイズ、トークン、料金の比較がされていました

Guardrails for Amazon Bedrockの紹介

AIを使用する上では、データのプライバシーとセキュリティを担保する必要がある、そのためにGuardrails for Amazon Bedrockが発表された

実際に使用してみると、何がガードレールに引っかかったのかを確認することができる

最後に、AWS公式の学習コンテンツを用意しているのでぜひ利用してくださいとのことでした！

所感

テキスト生成は生成AIを使う上で一番よくあるユースケースだと思うので、そのユースケースについて体系的な説明を聞くことができたのでよかったです

また、どんなユースケースにも対応できるようにモデルを複数用意していることを改めて実感し、AWSの本気を感じました

これからBedrockがどんな進化を遂げるのか、今後のアップデートにも期待したいです！