Microsoft Defender for AI
まいくろそふと でぃふぇんだー ふぉー あい / Defender for AI
製品・サービスMicrosoft Defender for AIは、AIアプリケーションやAI関連のデータ、利用環境に対する脅威や異常を検知し、保護を支援するMicrosoftのセキュリティ製品です。AIを使う仕組みで起きる新しい攻撃や設定上のリスクを把握するために使われます。
生成AIを組み込んだシステムでは、不正な指示による誘導や、意図しないデータ利用などのリスクが生じることがあります。Microsoft Defender for AIは、こうしたリスクを監視し、調査や対応につなげるための情報を提供します。AIそのものの回答内容を制御する製品ではなく、AIを使う環境全体の安全を支える役割を持ちます。
実例
「NTTデータがAzure OpenAIで接客AIを安全に開発」では、Microsoft Defender for AIを使い、間接的プロンプトインジェクション攻撃とシステム内部の異常な振る舞いを検知している。Defender CSPMによる構成管理・脆弱性検知、Azure AI Content Safetyによる不適切な入力の遮断も組み合わせ、接客AIエージェントを保護する構成としている。
「Microsoft Defenderで守るNTTデータ接客AI」でも、Microsoft Defender for AIは高度な間接的プロンプトインジェクション攻撃と内部の異常を検知する役割で使われている。Microsoft Sentinelによる脅威分析などと組み合わせ、インシデント発生時に対応できる環境を整備している。