Azure AI Content Safety
あじゅーるえーあいこんてんとせーふてぃ / Azure Content Safety / Content Safety / アジュールAIコンテンツセーフティ
製品・サービスMicrosoft Azureが提供する、テキストや画像に含まれる有害・不適切な内容を検出して扱うためのサービスです。差別や暴力など、利用ポリシーに沿わない入力や出力を判定し、ブロックやフラグ付けに使います。
生成AIのチャットやコンテンツ生成では、利用者の入力やモデルの出力に不適切な表現が混ざる可能性があります。Azure AI Content Safetyは、そうした内容をあらかじめ検知し、サービス側で扱わないようにする用途で使われます。プロンプトインジェクション対策の一部として、敵対的な入力の遮断にも用いられます。AIアプリの安全設計や運用の文脈で名前が出ることが多いです。
実例
「Microsoft Defenderで守るNTTデータ接客AI」では、NTTデータがAzure OpenAIを基盤に開発した接客AIエージェントの安全対策のひとつとして、Azure AI Content Safetyが使われた。差別的・暴力的・敵対的なプロンプトをフィルタリングし、不適切な入力をブロックする役割を担っている。
同事例では、Microsoft Defender for AIによる間接的プロンプトインジェクションや内部の異常検知、Defender CSPMによる構成管理・脆弱性検知、Microsoft Sentinelによる脅威分析などと組み合わせ、機密データを扱う接客AIを安全に提供する構成の一部として位置づけられている。