[Google Cloud Next Tokyo ’24][セッションレポート] ソニーグループにおける生成 AI の社内活用と今後の展望
本記事は Google Cloud Next Tokyo ’24 にて行われた、「ソニーグループにおける生成 AI の社内活用と今後の展望」のレポートです。
セッション内容
ソニーグループにおける生成 AI の活用
ソニーグループでは AI・テクノロジー・データの民主化により、クリエイティビティと生産性の両立を目指しているとのことでした。
また、全社員が安心して生成AIを利用できる仕組みを提供することや、グループ全体が利用できるようにすることでシナジーを最大化させることを目指しているとのことでした。
Enterprise LLM
生成 AI 活用の取り組みとして、ソニーグループでは Enterprise LLM という環境を立ち上げたとのことでした。これは、ソニーグループの社員が安心して業務に利用できるチャットタイプのサポートシステムです。
セキュアに業務で生成AIを活用できる場であり、さらに40を超えるLLMと連携して自由に利用することが可能という点には驚きました。
2023年からこの取り組みが始まり、これらの改善サイクルを高めていくことで、なんと現在では2万人が利用しているとのことでした。
Enterprise LLM の利用動向
特に Observe を意識しており、日々入力されるプロンプトも匿名性と機密性を保ったまま分析に利用しているそうです。
利用動向から部署によって使い方が異なることがわかり、例えばビジネス部門は業務効率を高めるための利用が多く、クリエイティブ系は壁打ちのサポートとして利用しているケースがあると紹介されていました。
さらに、目的やユースケースから社員の生成AI活用についての教育にもつなげているとのことで、ユーザーの利用動向をシステムの改善だけでなく、生成AI活用についての教育にもつなげている点は、まさに生成 AI 活用の民主化を目指す重要なアクションだと感じました。
効果
生成AIの導入による効果については、仮にそのタスクを人が実行した場合に必要な時間とAIが実行する時間の差分を効果として定めていました。
その結果、28,000 時間/月の業務効率化に相当するとのことで、導入されてまだ1年でこれだけの効果が出ている点に驚きました。
ビジネスで生成 AI をさらに利用するための取り組み
生成 AI をさらにビジネスに適応させるため、現在では 120 を超える POC を実施しているとのことでした。
これらの項目がビジネスニーズに必要なオプションと捉え、POC を推進しているとのことでした。
アーキテクチャはこちらになります。
ソニーの数万人規模で利用しても問題ない構成となっており、オレンジの枠では負荷分散や後続の処理をサーバレスで実現しているとのことでした。また、セッションのはじめに、40を超える LLM と連携しているとの話がありましたが、そちらは右側の緑色の枠の箇所で実現しているとのことでした。
マルチモーダル生成 AI
セッションの中で、生成 AI の今後の成長について述べており、現在はテキストからテキスト生成がポピュラーですが、次のフェーズとしてはマルチモーダルが発達してきているとのことでした。
弊社でも同様ですが、一般的に企業のドキュメントはテキストだけでなくグラフや画像などもあるため、今後はマルチモーダル型生成AIが発達していくことで、よりビジネスシーンに適応した生成AIになると感じました。
Smart Assistant の課題
業務に活用する生成AIには、企業固有の知識があり多様な企業内のドキュメントに対応することが難しいという課題があり、また、トークン消費やコストも増え、情報量の増加によるハルシネーションの発生も課題としてあるとのことでした。
それらの課題に対して、Google Cloud のサービスであるVertex AI と Gemini Pro 1.5 を活用した改善について紹介がありました。
Vertex AI と Gemini Pro 1.5 による Smart Assistant の改善
Gemini Pro 1.5 を利用した Smart Assistant のアーキテクチャはこちらになります。
Long context window についてはこちらのドキュメントをご参照ください。
https://blog.google/technology/ai/long-context-window-ai-models/
複雑なテーブルデータも現在は汎用的に実現可能なレベルですが、図解やダイアグラム、写真やイラストに対してLLMを活用するには図表認識が必要とのことでした。
Gemini Pro 1.5 から Long context window が利用可能となり、改善のアプローチを取ることができたとのことです。アプローチ 3 として、ユーザーの問い合わせの言い換えを生成して自然言語による表記ブレをなくしているとのことでした。
また、RAG やファクトチェックの課題に対しても関連ワードやシノニムを追加することで改善をすることができたと述べていました。
結果として、ハルシネーションを抑制しつつも正しい回答を生成するように改善されたとのことです。
また、Long context window の恩恵が大きく、検索精度、出力品質、正確性が向上したとのことで、特に RAG とプロンプトチューニングにより、最終的な結果では大幅に制度が向上されたとのことでした。
今後の課題としては、この構成をどこまで自動化し、標準化できるかがポイントと述べていました。
最後にまとめとして、生成AIの環境の整備とモニタリングが重要と述べており、Long context window と Context caching に期待しているとのことでした。
所感
ソニーグループの Purpose(存在意義)である、「クリエイティビティとテクノロジーの力で、世界を感動で満たす。」を体現する取り組みだと感じました。
また、ソニーグループという大規模なグループで生成AIを活用していくために、生成AIの利用動向から社員の方々への教育までアプローチしている点は非常に素晴らしいと感じました。技術だけに留まらずクリエイティビティの源泉である人に目を向けて、ソニーグループ全体として取り組んでいこうとする姿に一体感と何よりも熱意を感じるセッションでした。
効果についても、現時点で28,000 時間/月の業務効率化を実現しているとのことでしたが、これからグループ内での生成AIの活用が広まったりマルチモーダル型生成AIの発展が進めば、より業務の削減時間は大きくなると思いますので、将来的にも大きな影響力のある取り組みだと感じました。
