内部統制推進室の小倉です。
アメリカのフィラデルフィアで行われている AWS re:Inforce 2025 に参加しています。
3日間のイベントは本日最終日を終えました。

本日参加したセッションの中から、
AIを組織で安全に活用するための「強固で柔軟な基盤」の構築、そしてセキュリティをいかにビジネスの価値に変えていくかについてのセッション内容をお伝えします。

SEC301: From possibility to production: A strong, flexible foundation for AI security

このセッションは、生成 AI をはじめとする AI 技術の導入が加速する現代において、組織がどのようにセキュリティを確保し、イノベーションを推進していくべきかについての内容です。
AWS が AI セキュリティにおける「重労働」をどのように軽減し、組織が自信を持って AI イノベーションを展開できるよう支援しているかが紹介されました。

数年前から生成AIが急速に普及し、組織がセキュリティを維持しながら迅速にイノベーションを進めるという重要な課題に直面しています。
AI セキュリティの進化は、概念実証（PoC）の段階から、組織全体への展開、そして本番環境での利用へと進化しています。
この進化の各段階で、新たな課題が生じますが、セッションでは「待つことなく、今すぐセキュリティ基盤の構築を始めるべき」というメッセージを強調していました。

AI セキュリティのための多層防御

AI セキュリティの基本原則として、AWS は「多層防御（Defense in Depth）」のアプローチを提唱しています。
これは、中世の城を築くように、境界線だけでなく、各層で適切な保護を講じることで、全体としてのセキュリティを強化する防御策を講じる考え方です。

⚫︎ ポリシー、手続き、意識
最も基礎となる層で、AI 利用の目標と境界を定義し、データ取り扱い手順を明確化し、組織内の全員が AI のセキュリティ課題とそれぞれの役割を理解すること。新しい考え方への従業員のオンボーディング、トレーニング、意識向上が含まれます。

⚫︎ アイデンティティとアクセス管理
誰がどの AI モデルやデータにアクセスできるかを制御すること。AI が自律的な「エージェント」として動く場合、それら自身の「アイデンティティ」と権限管理が重要になります。

⚫︎ インフラストラクチャの保護
基盤となるインフラストラクチャ自体の保護。

⚫︎ ネットワークとエッジの保護
ウェブアプリケーションファイアウォール（WAF）やプロキシなどの導入による外部からの脅威を防ぐための境界保護。

⚫︎ アプリケーションの保護
コンテンツの適切性の確保、ハルシネーション（AI の誤情報生成）への対応などのアプリケーションレベルでのセキュリティ。AI モデル自体のセキュリティだけでなく、システム全体のアーキテクチャと情報の流れを包括的に考えることが重要です。

⚫︎ データの保護
機密データの取り扱い、AI モデルに出入りするデータの安全な管理。

⚫︎ 脅威検出とインシデントレスポンス
システムの動作を継続的に監視し、異常や悪意のある活動を検出し、対応する仕組み。

AI 時代の新たなセキュリティマインドセット

生成 AI は、従来のシステムとは異なるセキュリティ上の特性を持ち、新たな視点での対策が必要です。
「非構造化された自然言語によるアウトプット」や「非決定論的なレスポンス」、そしてデータそのものへのアクセス制御だけでなく、「学習済みモデル自体のアクセス認可」を考慮する必要があるなど、セキュリティの考え方にも変化が求められます。

AWS では、このような新しい課題に対応するために、「セキュアな構築パス（Secure Build Paths）」を導入しています。これは、特定のユースケースに対して、更新されたポリシーガイダンス、テンプレート、ガードレール、コントロールを提供することで、チームが迅速かつセキュアにイノベーションを進められるようにするものです。

Amazon Q Business の活用

AWS 自身も、Amazon Q Business という社内向け生成 AI アプリケーションを導入し、どのように活用しセキュリティ運用の効率化と機密データの保護の両立を実現しているかについて紹介されました。

セキュリティ運用支援、高度な検索機能、CVE 分析など、多岐にわたる分野で活用されており、このような内部アプリケーションの実現には、広範なセキュリティレビュー、ユースケースの明確化、データソースとガードレールの設定、そして継続的な改善が成功の鍵となっているそうです。

agentic AI

また、AI が進化し、「agentic AI」という、人間による監視が少ない、より自律的なシステムが登場することにも触れられました。
このような進化には、エージェント自身のアイデンティティ管理や、ユーザーに代わって行動する際のアクセス権限の伝播、監査可能性の確保が特に重要になるとのことです。

AWS は、安全な AI 開発のための業界標準やオープンソースプロジェクトへの貢献を通じて、AI セキュリティ全体の強化に取り組んでいると述べていました。

セキュリティをイノベーションのエンジンに

セッションの最も重要なメッセージは「待ってはいけない」ということです。
セキュリティはもはや単なる保護ではなく、AI イノベーションの可能性を最大限に引き出すための「基盤」であり「促進剤」と捉えるべきです。
私たちは皆、AI の進化がもたらす未来に向けて備える必要があり、常に柔軟で適応性があり、学び続ける姿勢が不可欠です。
セキュリティは、単なる機能ではなく、真のイノベーションを可能にする基盤であるというメッセージでセッションは締めくくられました。

まとめ

このセッションの AI 時代におけるセキュリティが単なる「守り」の機能ではなく、AI イノベーションの未来を可能にする「基盤」であるというメッセージを忘れずに、私たち一人ひとりが柔軟に適応し、学び続けることが、AI を安全に、そして最大限に活用していく上で不可欠だと学びました。
AI セキュリティにおける「多層防御」の考え方の最下層に位置する「ポリシー、手続き、意識」 は、内部統制として日頃取り組んでいる業務に関わり、AI 利用に関する明確なガイドラインや従業員の意識向上が、安全な AI 活用の礎となることを改めて認識しました。

AI 時代におけるセキュリティの考え方が、皆さんの日々の業務のヒントになれば幸いです。