概要

セッション

明日からできる！ 業務で使える！ 多彩なAIを組み合わせたアーキテクチャとは？ (D1-PL-06)
SCSK株式会社 青木 琢人 氏

Google CloudのAIサービスを使って簡単に高品質なAIアプリを作成する知識。
また、AIアプリ作ったけどなんか上手くいかない。と悩んでいる方必見の内容でした。
（頷きすぎて首もげるくらい面白いお話でした）

アジェンダ

そもそもAI導入の課題として…

「使ってみた」で終わってしまうことがとても多い。

AIを使うための過程・全体像

  1. AIを始める

– AI自体の性能などを検討・調査してみる
2. プロセスに組み込む
– どうやって使うと効果的だろうか？とか、検討する
3. 業務改善
– KPIなど決めて実際に投入

うち、今回は「2. プロセスに組み込む」をメインにお話しいただきました。

AI活用したら、どんな効果があるんだっけ？

  • 生産性向上
  • RAGとかで検索
  • 需要予測
  • 純粋にGeminiを使う
  • コスト削減
  • チャットボット、音声ボットで応答
  • 品質改善
  • 外観検査
  • 異常検知とか

1. AIを始める

AI活用にあたって必ず必要なことは？

データ！データ！データ！

さて、AIを活用しよう。
ちょっとまった。だがしかし、データのあれこれでAIを活用できないことがとてもおーーーーい。
その中でも、今回は特にデータが未整備でAIを活用できない。という問題に焦点を当てています。


データが未整備でAIを解決できない…その原因は？

  1. データに気づいていない
  2. データを整理できていない
    すごく膨大なデータがある…
    手元で、何十万行のCSVを触るのは、つらい。どうしよう。
  3. データの前処理

そう、こんなときこそ！Google Cloudのサービスを活用しよう！

Google Cloudの素敵便利サービスは、
画像の通り、たあーーーくさんありますが…
今回は4つのサービスを明日から使えるポイントと一緒に紹介いただきました。
以下のサービスを使うことで、データを作り出してから、活用まで自由自在。変幻自在。無為転変。

  1. Document AI
  2. BigQuery
  3. Dialogflow CX
  4. Vertex AI Agent Builder

Document AI

明日から使えるポイント：
Coogle Cloudのコンソールからポチポチするだけ。ハッチポッチステーション。

また、Document AIは、従来のOCIとは違い、テーブル系もそのままの構造で取り出せます。
とおっても便利。

BigQuery

明日から使えるポイント：
最近は、自然言語でクエリすることもできます。
SQL苦手な方でも、語りかけるだけでデータをこねくり回せるのは素敵ですね。

みんな大好きBigQuery。どんなデータ形式でも基本的に飲み込んでくれる。器が広い。すき。

Dialogflow CX

できる限りハルシネーションを少なくできます。
生成AIのみで全て判断させず、ルールベースと一緒に使用することで、いいとこ取りできます。
ある程度人間がルールを決めつつ、AIの柔軟性を最大限活用できるってわけ。

余談ですが、個人的にゴリゴリ開発するLangGraphもとても好きです。（すきあらば布教）
が、そんなゴリゴリしてくていいDialogflow CXは、スピード感を持って高品質なチャットボットが作ることができて、すきです。
ビジネスロジックに集中できる。というやつです。

Vertex AI Agent Builder

明日から使えるポイント：
Coogle Cloudのコンソールからポチポチするだけ。ハッチポッチステーション 2nd G。

魔法のごとく簡単にRAGがつくれます。今日から私も魔法使い。

2. プロセスに組み込む

せっかく、AIアプリを作ったはいいものの…PoCで止まる。原因は？

早速、うきうき、るんるんでAIアプリを作ったものの、次から次へと壁にぶち当たります。
作るだけ作って誰にも使われないアプリ…。使ってみても信憑性がない場合、結局使われなくなっていきますよね…。使われない負の連鎖。
そんな悲しきアプリを生まないためにも、傾向と対策をしましょうということですね。

  1. AI導入自体が目的になってしまう

– 特に上司、上からAI導入のオーダーがあった場合など…
– 解決策：
– エンジニアができることは、アイディアソンとか、ハッカソンとかの場を提供すること
2. PoCでイマイチ精度が出ない
– 当初設定したKPIにも到達できない
– 解決策：
– いくらファインチューニングしても、精度100%にはできない
– よって、不確実性を考慮したアーキテクチャにしよう！

ここから、不確実性を考慮したアーキテクチャ。について考えていきます。

不確実性を考慮したアーキテクチャに必要なものとは

不確実性を考慮するには、人間によるチェックが必要。
ハルシネーションしてるかチェック。OCRの文字が正しいかチェック。本当に異常値かチェック。チェック。チェック。チェック。チェック。チェック。チェック。
…あれ、AIを導入することで、工数削減できてる？そもそも何のためにAIの？そんな状態になっていきます。

つまり、不確実性を考慮した設計ってどういうことなの？

AI側でも再確認してあげるようにしよう！
画像のように、不確実性を考慮せず確認なしで手続きなど行った場合、ユーザが本当に意図していない変更を加えられてしまいます。
よって、AIから再確認する、ほんとうにこれであってますか？を聞いてあげることで、ユーザとの齟齬を減らせるよね。ということですね。
AIがAIをチェックする。という話も最近はあちこちでよく耳にしますが、これにより人類はどうなっていくのか。わくわくしますね。

3. 業務改善

多種多様。各々でカスタマイズして進めていこう。
…だと、かなしいので、2つのアーキテクチャをご紹介いただきました。

検索強化のアーキテクチャ

AI with コンタクトセンターのアーキテクチャ

オペレーターが、アシスタントツールを使うことで、オペレーターがすばやく回答できる。
よって、オペレーターの負荷が減る！
お客様視点でも、すばやく回答されるのでうれしい。みんなハッピー。
また、感情分析などで、お客さんが満足しているかどうか。を図ることもできる。

まとめ

明日から使える！Google Cloudの素敵ポイントもお話しいただきました。簡単に使えて高品質がGoogle Cloudの魅力の1つであると思います。早速、明日から…いえ、今日から使っていきましょう。あしたやろうはばかやろう。

また、特にAIアプリを作ったけど、なんか上手くいかない。そしてどんどん使われない…。
そうさせないために、AI導入の全体像の把握や、データの整備、不確実性、と重要なポイントをたくさんご紹介いただきました。

ということで、なんとなくAIアプリを導入する。のではなく、みんなに愛されるアプリを日々作っていきたいものですね。