Microsoft Defenderで守るNTTデータ接客AI
元記事公開日: -
出典: https://www.microsoft.com/ja-jp/customers/story/26179-ntt-data-japan-corporation-azure
NTTデータは、Azure OpenAIを基盤に、顧客接点でのコミュニケーションを支援する接客AIエージェントを開発した。Microsoft Defender for AI、Defender CSPM、Azure AI Content Safetyなどを組み合わせ、構成管理、脆弱性・異常の検知、不適切な入力のブロックを行い、機密データを扱う安全な提供を実現した。
背景
NTTデータは、生成AIを今後の市場に大きな影響を与える技術と位置付け、「Smart AI Agent」構想とAI技術を使うソリューションブランド「LITRON」を展開している。顧客接点で扱うデータには機密情報が含まれ、接客AIエージェントを顧客ごとの業務環境で育成する過程でも、機密データを保存・活用する必要がある。
要望・目的
小売・販売業のWeb販売、店頭、住宅・自動車販売の商談など、さまざまな顧客接点でコミュニケーションを支援する「デジタル接客員」を実現する。顧客接点の機密データを扱いながら、生成AIに伴う新たなリスクと脅威に設計段階から備え、安全で信頼性の高いAIエージェントを提供することが必要だった。
実装・実施内容
NTTデータのシステムセキュリティ基準と生成AI利用ガイドラインに沿い、セキュア バイ デザインの原則でアーキテクチャを設計した。Azureを主要プラットフォームとし、ネットワークの閉域化、ポリシー制御、日本国内だけでのデータ保持を組み合わせた。AI関連リソースの構成管理、脆弱性検知、間接的プロンプトインジェクション攻撃と内部の異常な振る舞いの検知、不適切な入力の遮断を実装している。
AIサービス・システム
AI基盤には、取り扱うデータをモデルの再学習に利用しないAzure OpenAIを採用した。Microsoft Defender for AIは高度な間接的プロンプトインジェクション攻撃とシステム内部の異常を検知し、Defender CSPMはAI関連リソースの構成管理と脆弱性検知を担う。Azure AI Content Safetyは差別的・暴力的・敵対的なプロンプトをフィルタリングし、入力をブロックする。Microsoft Sentinelによる脅威分析も組み合わせている。
結果・効果
2025年末に、顧客接点でのコミュニケーションを支援する接客AIエージェントを開発した。Azure OpenAIとMicrosoft Defenderファミリーなどを組み合わせ、通信とデータ資産を保護するAIエージェント基盤と、インシデント発生時に素早く対応できる環境を整備した。今後もMicrosoft Purviewを含む製品群を活用し、新たなリスクと脅威への対応を続ける方針である。