PaLM API の日本語対応が発表
Google Cloud の PaLM API の日本語対応したことが2023/8/22に開催中の Google Cloud 主催の Generative AI Summit にて公に発表されました。
当ブログでは PaLM API が利用できる Vertex AI の Generative AI Studio にて、日本語のプロンプト出力及び、Generative AI Studio で可能なプロンプトでのパラメータの調整について実施した内容を記載します。
Vertex AI の Generative AI Studio について
こちらについて弊社の亀田が出来ることを色々試してみた記事を書いているので、そちらを参照ください(亀田の記事内では英語で試した内容となります。)。
PaLM API を日本語で試す
日本語で得たい結果によってプロンプトパラメータの値の調整と、その調整したことにより内容がどう変わるか？を確認します。
Google Cloud のサービスの説明を題材に何回か試してみたいと思います。
まずはただ実行する
私が構築経験がある中でも Cloud Run はよく触るので、これの説明について聞いてみます。
まずはデフォルトの設定でただ単純に聞いてみます。
えい！
Testに形式を指定してみる
もう少し、説明、利点、用途がわかりやすいように整形して書いてもらいたいと思います。
構造化することで、プロンプト内容に記載せずとも、Test に記載することで、その部分を含めた応答が得られます。
おぉ！見やすいです。Test の扱い方も確認できました。
パラメータを調整する
もう少しランダム性を持たせて他の使い方がでてこないか確認します。
そんなときは温度をちょっといじってみたいと思います。
0.2→0.3に変更してみました(0.1程度じゃそれほど変わらないですが、、)。
データ処理アプリケーションが出てきました。
ですが、用途は3つと書いてたので、そこがオーバーしてしまっていますね。。
3つに抑えるのが難しかったようですが、内容としては良さそうです。
違うパターンの出力も確認する
今回、Cloud Run だけではなく、Cloud SQL でも同様にやってみました。
Cloud Run のときの出力を例として追加し、同じような形式で返答が返ってくるか確認します。
説明やナンバリング、最後の締めも同じ形式で出力されています。
所感
簡単でしたが日本語の質問に日本語で応答が返ってくること、指定した Test の条件である程度精度の高い返答があること、 Example に追加した条件に従い応答があることが確認できました。
日本語対応したということで、現地では盛り上がっていることと思いますが、私もリモートで盛り上がり、今回はまずはプロンプト上で操作感を確認してみました。
Bard も同様ですが、出力内容に関しては、いろいろとプロンプト上で可能な範囲で聞き方を変えたりしていたと思います。
ただ、今回の内容では、プロンプト上で入力するような補足条件を、Test に含めることで、実行する人によっての結果のばらつきを抑えられること、出力内容のランダム性等をパラメタのチューニングによってコントロール可能なことがわかりました。
Generative AI の利用目的によって、特定分野に特化させた内容で、出力させる内容のコントロールを行い、ほしい結果をなるべく容易に得られるような工夫が必要だ、ということを、日本語で扱ってみて改めて認識しました。
BigQuery から PaLM API の日本語利用してGoogle の急上昇ワード要因の調査 ではもう少し実践的な内容で試してみたいと思います。
