Gartnerの比例的ガバナンスでAIエージェントを統制
出典: https://atmarkit.itmedia.co.jp/ait/articles/2607/17/news053.html
自律型AIエージェントを自律性と信頼境界に応じて4段階に分類し、統制の強さを変える。単純なエージェントの過剰制限と、高自律エージェントの無制限運用を避け、人の承認、監視、ロールバックを使い分ける。格下げ・廃止につながる失敗の軽減を目指す。
背景
企業はAIエージェントの本格活用に向け、全てのエージェントに一律でガバナンスを強化する必要があると考えがちである。一方、AIエージェントは自律性の水準が異なり、稼働する領域ごとに信頼性も異なる。自律性やアクセス範囲を考慮しない統制は、用途に必要な管理水準と合わない状態を生む。
要望・目的
単純なAIエージェントに過剰な制限を加えて提供を遅らせ、シャドー開発を助長する事態を避ける必要がある。同時に、自律的なAIエージェントをほぼ無制限で動かし、運用、セキュリティ、コンプライアンスのリスクを高めないことが求められる。統制を二者択一として扱わない設計が目的となる。
実装・実施内容
GartnerはAIエージェントを自律性レベルごとに分類し、信頼境界に対応する統制を変える比例的ガバナンスを示した。レベル1は読み取り専用で出力を要求者に表示する。レベル2は推奨やドラフトを生成し、人間が全出力をレビューして手動実行する。レベル3は人間の明示的承認後に書き込みや構成変更を行い、レベル4はガードレール内で独立してアクションを実行する。
AIサービス・システム
対象は本番環境で自律的に稼働するAIエージェントである。レベル1では文書要約、データ検索、コード説明を行う。レベル2では推奨事項、ドラフト、行動案を生成する。レベル3ではデータ書き込みや構成変更を実行でき、レベル4では定義済みのガードレールの範囲で独立してアクションを実行する。人間は自律性に応じ、出力確認、承認、例外や監査ログのレビューを担う。