AIランタイム・ディフェンス

AIが実際に動いている最中に、不正な操作や攻撃からモデルやサービスを守るための対策や仕組みです。学習や設計の段階ではなく、利用中に起きる異常や悪用への対応を中心に考えます。

プロンプトを通じた不正操作や、想定外の呼び出し、機密情報の漏えいにつながる振る舞いなど、運用中にしか見えない脅威への備えとして使われます。静的な検査だけでは拾いきれない問題に対し、監視・検知・遮断などを組み合わせる考え方です。生成AIやAIエージェントの業務利用が進むほど、動いている最中の守りが重要になります。

実例

「Gartnerが示すフロンティアAI時代の先制防御」では、フロンティアAIや生成AI、AIエージェントの普及とプログラムによる自動攻撃を前提に、事後対応から先制的なサイバーセキュリティへの転換が求められていると示された。AI SPMを含むSPM製品でクラウド・データ・アイデンティティーを横断してリスクを捉え、シャドーAIの可視化に加えて利用実態に基づく危険度評価が必要だと説明されている。

同事例では、リスク評価・異常検知・統制的制御を新たな技術と戦術が必要な領域に挙げ、脆弱性診断やペネトレーションテストへのAI活用、先制的サイバーセキュリティ（自動化された動的ターゲット防御、予測型脅威インテリジェンス、自動化されたエクスポージャー管理）が構成要素として提示された。企業での導入実績や定量的な成果は示されていない。