生成AIの根拠表示と証跡記録を業務に組み込む方法
参照したAIgram
目次
概要
生成AIを業務で使うとき、「その答えは何を見て出したのか」を後から説明できるかどうかが、実務に耐えるかどうかを分けます。事例を見ると、うまく業務に入っている使い方には共通して、出力の隣に根拠資料があり、作業の記録が残り、人が確認する工程が置かれています。
大林組は、法令データと社内に蓄積された過去の法令解釈・設計検証の知見をTektome社の生成AI基盤に組み込み、設計初期に確認すべき論点や留意事項を根拠資料と共に参照できる仕組みを構築しました 大林組、Tektome社基盤で法令調査67%短縮。実務者検証では、法令調査・要件整理の対応時間を約67%短縮し、法的検証における論点整理・確認観点の明確化に効果を実感した割合は100%に達しています。ROUTE06のAcsimテストは、テスト結果を自動集計し、合否だけでなくスクリーンショットや録画、ログといった証跡を含むレポートを生成します ROUTE06 Acsimテストで要件起点のテスト自動化。Legal Node MCPのハラスメント調査支援機能は、確認できた事実と確認するに至らなかった事項を切り分け、決裁欄を備えた社内調査報告書の骨格を提供するβ版として、2026年9月1日に提供開始予定です Legal Node MCPのハラスメント社内調査支援。この機能は法的評価を返さず、最終的な判断は弁護士に確認するよう案内します。神戸市のKOBE AI PORTでは、情報検索チャットが条例・規則や市会議事録を取り込み、生成AIの回答に根拠となる参照資料を明示しています 神戸市KOBE AI PORTの庁内AI活用。
根拠表示と証跡は、AIの出力を確認可能なものに変えます。出力の隣に根拠資料を置き、実行の記録を残し、人の確認と決裁の工程を設計に含めることが、業務で使える形にする条件です。
出力の隣に根拠資料を表示する
生成AIの答えだけを受け取っても、担当者はそれを業務判断に使えません。何を見て出した答えなのかが分からないためです。事例では、答えと根拠資料をセットで返す形が取られています。
大林組の生成AI基盤は、法令データと社内の過去の法令解釈・設計検証の知見を組み込み、設計初期に確認すべき論点や留意事項を根拠資料と共に参照できる仕組みになっています 。論点だけが並ぶのではなく、その論点がどの資料に基づくのかを同じ場面で確認できます。
神戸市のKOBE AI PORTでも同じ構造が取られています
。情報検索チャットは、条例・規則、市会議事録など神戸市独自のデータを取り込み、条例・規則の該当箇所などを検索できます。回答には根拠となる参照資料が明示されるため、職員は回答内容を確かめたうえで業務に使えます。
答えと根拠資料を同じ場面に並べることで、利用者は回答を確かめてから使えます。
参照するデータの範囲を明確にする
根拠を表示するには、AIが何を参照しているかが決まっている必要があります。参照先が曖昧なままでは、表示された根拠も確かめられません。
- KOBE AI PORTは、LGWAN環境から直接アクセスできる構成です。ネットワーク間のファイル移行作業なしに、自治体独自ナレッジを共有・活用できます 。
- 大林組は、法令データに加え、社内に蓄積された過去の法令解釈や設計検証の知見をAIエージェントプラットフォームに組み込んでいます 。
- どちらも、一般的な情報ではなく、その組織で使われてきた資料をAIの参照先にしています。
参照先が組織の資料に限定されていれば、表示された根拠を担当者が原本まで辿れます。根拠表示の設計は、どのデータをAIにつなぐかの設計と一体です。
形式の違う文書を共通構造に変換する
根拠として使いたい資料が、そもそも比較できる形になっていない場合があります。作成部署や年度が違えば、同じ内容でも構成や記載形式が異なります。
富士フイルムビジネスイノベーションの「認識・構造化」AI技術は、異なる形式で作成された行政評価関連文書を施策単位で分解・整理し、共通のデータ構造に変換します 杉並区行政評価を認識・構造化AIで支援。杉並区との実証実験では、施策・事業単位で情報を構造化することにより、過去の評価結果や他自治体が公表する行政評価関連文書などとの横断的な比較・分析が可能になることを確認しました
。
構造化は、根拠を示すための前段階にあたります。文書が共通の構造に揃っていれば、どの施策のどの項目を根拠にしたのかを指し示せます。
確認できた事実と未確認を切り分ける
根拠を示すうえで、分かったことと同じくらい重要なのが、分からなかったことの記録です。未確認の事項が書かれていないと、報告書を読んだ人はすべてが確認済みだと受け取ってしまいます。
2026年9月1日に提供開始予定のLegal Node MCPのハラスメント調査支援β版は、聞き取りの内容と客観資料を突き合わせて整理するための台帳・時系列の項目立てを支援し、確認できた事実と確認するに至らなかった事項を切り分けます 。
このβ版は、確認された事実を厚生労働省の指針の定義要素に対応付け、「確認できる要素」「確認するに至らない要素」として整理するにとどめます。法的な評価は返さず、最終的な判断は弁護士に確認するよう案内する設計です。AIが結論を出すのではなく、判断材料の整理状態を記録する役割に限定されています。
何を確認できなかったかを残すことも、証跡の一部です。
実行の記録を証跡として残す
根拠が示されるのは、AIが情報を整理した場面だけではありません。AIが何かを実行した場合には、その実行結果そのものが証跡になります。
ROUTE06のAcsimテストは、テストを実行して結果のレポートを作成します 。レポートには合否だけでなく、スクリーンショットや録画、ログといった証跡が含まれます
。合格・不合格という結論だけでなく、その判定に至った画面と動作の記録が残ります。
Acsimテストは、要件・仕様を定義した段階からテストケース、テストコード、テストデータを生成し、機能テスト、E2E、結合テスト、負荷試験、セキュリティテストまで網羅します。実装前の要件段階から実行までを一続きにすることで、要件と実行結果を突き合わせられます。
人の確認と決裁の工程を設計に含める
証跡を残す目的は、最終的に人が判断するためです。事例では、AIの出力を人が確認する工程が明示的に設計されています。
- Legal Node MCPのハラスメント調査支援β版では、ヒアリングの実施は人が行い、実施前に調査責任者による承認の工程を置いています 。
- 同β版の成果物は、決裁欄を備えた社内調査報告書の骨格です。誰が承認したかを記録する欄が、成果物の形式に組み込まれています。
- 杉並区の実証実験では、職員が行政評価アプリに評価文を入力し、AIエージェントの提案結果も踏まえて職員がアプリ上で修正する流れを、kintone上に構築しました 。
どちらも、AIの出力をそのまま成果物にしていません。人が入力し、AIが案を出し、人が確認して修正するという順序が、仕組みの中に組み込まれています。
証跡が担当者間のばらつきを抑える
根拠と証跡を残す仕組みには、記録以外の効果もあります。同じ観点で確認する形が決まることで、担当者による差が小さくなります。
杉並区では、自治体が作成する各施策・事業に関する文書の構成や記載形式が多様であるため、評価の観点や評価文の記載内容に職員間でばらつきが生じやすいという課題がありました 。実証実験では、文書の構造化により、情報整理・分析の効率化や評価内容のばらつき抑制につながる可能性が示されています。
ROUTE06も同様の課題を指摘しています。テストケースの作成やテストコードの実装、テストデータの準備、結果確認といった工程は人手に依存する部分が多く、工数の増大、担当者ごとの品質のばらつき、抜け漏れといった課題があるとしています 。
確認の観点と記録の形式が決まっていることが、担当者による品質の差を小さくします。
根拠表示が関係者の認識共有を進める
根拠が表示されると、その資料を見ながら関係者が話せます。大林組は、法令対応業務の効率化に加え、設計者と法令確認を担う関係部門との認識共有の促進、設計後半で顕在化するリスクの早期把握や手戻りの抑制につなげています 。
実務者検証では、法的検証における論点整理・確認観点の明確化に効果を実感した割合が100%に達しました
。時間短縮の数値だけでなく、確認すべき観点がはっきりしたという実感が、全回答者から得られています。
結論
生成AIを業務に組み込むときは、出力そのものより、根拠と記録の設計を先に決めることが重要です。事例から読み取れる要点は次の通りです。
- 大林組は根拠資料と共に論点を参照できる仕組みを構築し、対応時間を約67%短縮しました。論点整理・確認観点の明確化への効果実感は100%です 。
- ROUTE06のAcsimテストは、合否だけでなくスクリーンショット、録画、ログを含む証跡付きレポートを生成します 。
- Legal Node MCPのハラスメント調査支援β版は2026年9月1日に提供開始予定で、確認できた事実と確認できなかった事項を切り分け、調査責任者の承認工程と決裁欄を備えた報告書の骨格を置きます。法的評価は返さず、最終判断は弁護士への確認を案内します 。
- KOBE AI PORTは回答に根拠となる参照資料を明示し、杉並区の実証実験は文書の構造化で横断的な比較・分析を可能にしました 。
難しい発想は必要ありません。AIに参照させる資料を組織の中に定め、出力と一緒に根拠を表示し、実行と確認の記録を残す。この3点を設計に含めることが、生成AIを業務で使い続けられる形にします。