はじめに

昨日、Google Cloud Next Tokyo ’23に行ってきましたので、感想と学んだことを伝えられたらと思います。

 

セッション：これからはじめる Vertex AI Codey と Duet AI の アプリ開発

目的

このセッションでは生成AIの基礎知識となんとなく生成AIを使う方法をイメージ出来ることを目的にお話をされてました。

Vertex AI Codey

自然言語で書かれた内容からコードを生成したり、逆にコードをVertex AI Codeyに読み込ませて、自然言語でコードの説明をしてくれます。

AIを設計する上でネックになるのはファインチューニングの部分になるのですが、温度感を用いて、簡単に調整をすることができます。

断定的な場合が欲しい場合は温度を下げると断定的になったり、可能性、バリエーションが欲しい場合は温度を高くすると様々な答えが返ってきます。

Duet AI

AIからより欲しい回答を得るにはプロンプト設計が必要となります。

プロンプト設計は最適な結果を得るために下記の手順で実施します。

プロンプト設計に慣れている方じゃないと難しい作業をDuet AIが代わりに実施してくれます。

 

お昼

オムライスを食べてきました。

卵がふわふわでお肉も柔らかくとても美味しかったです。

何より、椅子が柔らかく、セッション中にパイプ椅子でダメージを受けたお尻を癒してくれました。

 

セッション：本番環境で生成 AI 運用を始める方へ。 世界最大級の IT インフラ企業が語る 要件定義～実践

概要

生成AIの案件の要件定義~運用までそれぞれの工程におけるポイントを紹介して頂きました。

要件定義部分では、現在のありたい立ち位置、ユースケースを評価しそれを元に優先して取り組む要件を整理していくのですが、なるほど！と思いましたので下記で詳しく記載しています。

実装部分では取り組むべきことが明確になったら、プロトタイプを作り検証、運用を考えたガバナンスの検討、本番環境で動くための運用の確立、実装を行いリリースを行います。プロトタイプを作る部分ではオリジナルで良いのかファインチューニングが必要なのか、使うのは個人、社内、社外の誰かにポイントを当てて作成をしていきます。

運用部分では、パフォーマンスモニタリング、エラー検出とデバック、使用状況の分析、モデルドリフトの検出、スケーリングの最適化、コンプライアンスとガバナンスの検討を行い、意思決定の改善と可視性の向上、問題の早期検出、パフォーマンスの向上を目指します。

要件定義

現在のありたい立ち位置を知ろう

  • 下記の２軸をもとにまずは、実現する要件がどういったものかを整理し現時点での理想の立ち位置を整理します
    •  モデルデータの複雑性（縦軸）
      • GCの生成AIのサービスをそのまま利用できるケースは低
      • GCの生成AIをモデリングして自社の要件にカスタマイズしていく作業であるファインチューニングを行う必要があるのが高
    • 連携の複雑性（横軸）
      • GCだけで実現できるものは低
      • GCだけでなく、他のサービス、ツールとの連携が必要な場合は高
  • また、上記の２軸が高であるほどコストがかかることになるため、そこも加味してスコープも整理していきます。

ユースケースを評価

  • 重要度と優先度から検討すべきことを整理します
    • 重要度と優先度が高いものをまずは、検討すべきです
  • 責任あるAIスコアと実現可能性から取り組みやすさ導入のしやすさを明確にします。
    • 責任あるAIスコア
      • 社会にとって有益である
      • 不公平なバイアスの発生、助長を防ぐ
      • 安全性確保を念頭においた開発と試験
      • 人々への説明責任
      • プライバシー・デザイン原則の適用
      • 科学的卓越性の探究

現在のありたい立ち位置、ユースケースを評価を行ったら、スコープを決定し実装、運用に入っていきます。

ブース

Firebase Extensions

ブースではワンクリックで生成AIを利用できる環境が構築できるFirebase Extensionsの紹介がされてました。

基本的に開発にはアプリ、インフラそれぞれのエンジニアが必要でした。ただ、こちらを用いることでアプリエンジニアだけでアプリ開発が可能となるため必要な機能の開発に力を入れることが出来ます。現在はワンクリックで構築できるものはファインチューニングができない生成AIとなるのですが、Cloud Functionsのコードに記載することでVertex AI Searchなどのサービスも利用可能となるので、そのカスタマイズ性も魅力的でした。

これを使うことで、AIのチャットでの応答などは爆速で作成できるようになります。

まとめ

今回、Google Cloud Next Tokyo ’23に参加して、生成AIを誰もが扱える時代が来ていると感じました。生成AIを使って作業を効率化したり、事業の分析に使ったりして生成AIと共存していくことがビジネスに必要不可欠になってくると感じました。