第四開発事業部の西田です。
昨夜からre:Invent参加のためにラスベガス現地入りしております✈️
普段は開発部署でマネージャーをしておりますが、今週は業務をメンバーに任させていただいてブログ隊としてどんどんアウトプットする所存です?
昨日はレジストレーションや認定者ラウンジに行ったり、街を観光したりしましたが、本日から色々セッションを巡っていきます。
会場ホテルのWynnに移動し、無料のごきげんな朝飯をいただいてセッションに臨みます。
セッション内容
生成AIの概要
生成AIとは。
生成AIは創造性、生産性、つながりにおいてイノベーションと新たなビジネスの価値を解き放つ。
従来のAIモデルとの違いについて。
Amazon Bedrockの紹介。
Bedrockでは、様々な基盤モデルにアクセスし、それらをカスタマイズしてビジネスに合った生成AIアプリケーションを構築できます。
生成AIの課題と対策
現状の生成AIには課題がある。
Toxicityと呼ばれるモデルが有害な情報（差別表現など）出力を生成することを防ぐにはトレーニングデータのバイアスを取り除くことが必要。
モデルは世界の反映であり、その生成性質は公平性を必ずしも最適化していない。したがって、トレーニングデータの管理やフィルタリングメカニズム、ガイドラインを設けることでこれらの課題を緩和する必要がある。
もう一つの課題は嘘の情報を出力してしまうこと。
これは、モデルがトレーニングとデータの不足を埋めようとするモデルの試みに起因する。これはユーザーに誤った情報を提供する可能性がある。そのため、ユーザー教育や明確な免責事項を追加すること、可能であれば独立した情報源で確認する能力を提供することが重要。
他にも知的財産、法的プライバシーなどの課題があるが本セッションでは割愛。
責任あるAIの実装
イノベーションとリスク、チャレンジとのバランスをとりながら生成AIを構築するのはどうしたらよいか。
信頼性のある責任あるAIを実装する。
モデルが予想通りに信頼性を持って動作し、正確であることが求められるが、公平性を確保しようとすると、システムの正確さが低下することが多い。
つまり、絶対的な性能を求めるよりも、公平で説明可能なシステムを優先することが重要。
AWSは責任あるAIの実装を、アプリケーションのライフサイクル全体にわたって組み込むことを目指す。
特定のコンポーネントでのみではなく、エンドツーエンドのプロセス。
AWSでは、責任あるAIの実装に関するベストプラクティスを定義しており、顧客が自身のアプリケーションに適用できるようにしている。
サステナビリティ
クラウド内でのエネルギー効率の向上。
サステナビリティのためのベストプラクティス。
Schneider Electricの事例
ジェネラティブAIを活用したエネルギー管理と産業オートメーションの事例。
AIの活用による効率向上と持続可能な電気インフラの構築。
感想
Toxicityという用語やモデルが有害な情報や不正確な情報を生み出してしまう理由が聞けてとても興味深かったです！
私は英語があまり得意ではないので聞いてる時あまりよくわからなかったのですが、後でこうやって翻訳しながらブログにまとめることで内容が咀嚼できるなと感じました。
