NTTデータがAzure OpenAIで接客AIを安全に開発
元記事公開日: -
出典: https://www.microsoft.com/ja-jp/customers/story/26179-ntt-data-japan-corporation-azure
NTTデータは、Azure OpenAIをAI基盤に採用し、接客 AI エージェントを開発した。Microsoft Defender for AI、Defender CSPM、Azure AI Content Safetyで脅威・脆弱性を検知し、不適切なプロンプトを遮断する。機密データを保護しながら、顧客接点でのコミュニケーションを支援する構成とした。
背景
NTTデータは、生成AI活用コンセプト「Smart AI Agent」の取り組みとして、AI技術を活用するソリューションブランド「LITRON」を展開している。経理・法務・人事向けエージェントやデジタルワーカーに加え、顧客接点を支援する接客 AI エージェントを開発した。顧客接点で得るデータは重要な機密データであり、安全な保存・活用が必要となる。
要望・目的
接客 AI エージェントは、小売・販売業における顧客接点を支援するソリューションとして位置付けられている。Web販売では商品デザインやサイズを含む顧客ニーズに合う商品の案内、店頭では顧客と店員の橋渡し、住宅・自動車販売では商談音声を用いたニーズや傾向の把握を想定する。生成AIに伴う新たなリスクと脅威への対策も必要だった。
実装・実施内容
接客 AI エージェントは、NTTデータのシステムセキュリティ基準と生成AI利用ガイドラインに沿い、セキュア バイ デザインの原則で設計・開発した。基準を精査し、Azureの各種サービスとDefenderファミリーの組み合わせで主要要件を満たす構成を選定した。ネットワークの閉域化、ポリシー制御、日本国内だけでデータを保持するアーキテクチャも組み合わせている。
AIサービス・システム
AI基盤には、取り扱うデータをモデルの再学習に利用しないAzure OpenAIを採用した。Defender CSPMでAI関連リソースの構成管理と脆弱性検知を行い、Defender for AIで間接的プロンプトインジェクション攻撃とシステム内部の異常な振る舞いを検知する。Azure AI Content Safetyは差別的・暴力的・敵対的なプロンプトを入力時にブロックする。
結果・効果
2025年末に接客 AI エージェントを開発した。Microsoft Sentinelによる脅威分析を含む構成により、AIシステム全体のリスクを可視化して管理・保護するAI-SPMの態勢を整え、インシデント発生時に素早く対応できる環境を実現している。今後はMicrosoft Purviewを含むDefenderファミリーを活用し、新たな脅威への対応を続ける予定である。