こんにちは、MSPセクションの江崎です。

暑い日々が続いていますが、今回は横浜で開催中の「Google Cloud Next Tokyo ’24」に参加してきました。

数多く開催されているセッションの中でも「Vertex AIの業務への活用・導入のポイント」を自身の解釈も交えながら紹介していきます！

Google Cloud Next Tokyo ’24 概要

日程 8月1日(木) 〜 2日(金)
会場 パシフィコ横浜 ノース
〒 220-0012 神奈川県横浜市西区みなとみらい1丁目1-2
コンテンツ 基調講演、Google Cloud & スポンサー展示、ブレイクアウト セッション他
ソリューション テーマ App Modernization, Data Cloud, AI & ML, Open Infrastructure, Security, Collaboration (Google Workspace)
対象 ビジネスや IT における意思決定者やリーダー、​​開発者
プロダクト Google Cloud, Google Workspace

公式サイト：https://cloudonair.withgoogle.com/events/next-tokyo-24

DAY2：セッション「Vertex AIの業務への活用・導入のポイント」

ジャンル
AI と機械学習
テーマ Vertex AIの業務への活用・導入のポイント
登壇者
NHN テコラス株式会社 江頭 峻 氏
エンジニアリング本部 ソリューションアーキテクト

NHN テコラスは、生成AIの業務導入を進めており、Vertex AIを採用しています。本セッションでは、導入プロセスにおけるデータ管理や権限などの課題への対処方法とVertex AIを効果的に活用するポイントをご紹介します。特に、Vertex AI Studio、Vertex AI Agent Builder、そして言語モデルGeminiの利用法を取り上げ、効率的な業務導入のヒントを提供します。

このセッションを選んだ理由

弊社では、社内からの問い合わせチャンネルへのVertexAIの導入を検討している状況です。よくある質問（FAQ）ページを準備するケースは多いと思いますが、そのページ自体も定期的なメンテナンスが必要であり、情報の鮮度を保つことが課題となっています。

そこで、問い合わせを行うユーザーが「なぜ問い合わせをするのか」について考えてみました。様々な背景や状況があると思いますが、その主な要因は「情報が不足している」ことにあると考えています。つまり、必要な情報が欠けているために、問い合わせというアクションにつながっているのです。

このため、過去の問い合わせや返答事例を活用することで、人からの返答を待つことなく、質問者は自らの質問に対する回答を得ることができると考えています。これにより、ユーザーの目的を効率的に達成できる可能性が高まります。これらの状況を踏まえ、VertexAIの導入事例や活用方法を学習し、社内での応用を進めていきたいと考えています。

セッション内容

大きく分けて以下の4つの構成

  • 機能がわからない。を解消
  • 生成AIのリスクと対策
  • 構築が大変そうを解決
  • 導入事例

特に印象的だったのは「生成AIのリスクと対策」だ。より簡易に情報にアクセス・生成ができる自由の反面として生成AIとしてはリスクが伴う。便利さとリスクはトレードオフの関係であってはならない。そこは流石のGoogleさん、さまざまな対策や概念を持っていた。

  • 機密情報の漏洩
    • 入力されたデータを基盤データとして使用する
    • そのため機密情報が誤って使用されると情報漏洩になる
      • Google の対策
        • 指示がない限りAIをトレーニングさせないようになっている
  •  著作権侵害のリスク
    • 生成AIで作成したものが意図せず侵害する可能性がある（画像・ロゴ・デザイン）
      • Googleの対策
        • 生成AIが著作権を侵害した場合、Googleが保証
  • ハルシネーション
    • あたかも正解のように誤った内容が出力されること（あるある。。。）
    • RAGを用いることで対策が可能
    • 対策
      • RAG（検索拡張生成）を使用することで減らす手法として活用されている

セッションを通じて理解できたこと、感じたこと

導入事例として挙げられていた「社内ナレッジ検索」「問い合わせ一次回答支援」などはまさに私が求めていた内容だった。社内の色々なところに散らばった情報などを検索するシステム、また問い合わせへの一次回答なども社内に留まらずお客様への一次回答のツールとして非常に有用になる予感がした（可能性しか感じられない！！）特にお客様の回答にエビデンスとしてAWSやGoogle Cloudなどの公式見解（公式ドキュメント）を合わせて返答として提示してくれるのはかなり使える。

エンジニアやサポートスタッフもいきなり100％を求めているわけでは無い。70〜80％の「これでどう？」のように、求めている内容に対しての回答をしてくれるだけで大幅な業務改善が目指せるだろう。そしてその空いた時間で本来やるタスクにもっと集中できるし、これからはそのフローが正しいAIの使い方とも感じた。

セッション情報：https://cloudonair.withgoogle.com/events/next-tokyo-24?talk=d2-gl-09

振り返り

リスクを恐れて消極的になるのではなく、正しく管理し、AIを活用することで我々の仕事はもっともっと価値を生み出せる！そんなポジティブな気持ちにさせてくれる非常に有用なセッションでした。