生成AI共通基盤の設計と業務アプリ拡張の全体像
参照したAIgram
目次
生成AIを業務で使おうとしたときに「まず何のアプリを作ればいいんだろう」と考える方は多いと思います。ただ、実際の事例を見ていくと、先に決まっているのはアプリではなく、その下に置く共通基盤のほうです。
概要
神戸市はDifyを活用した庁内AI基盤「KOBE AI PORT」を構築し、LGWAN環境から直接利用できるポータル上に、汎用チャット、プロンプト集、議事録作成・アンケート集計・音声解説生成の専用アプリケーションを整備しました 神戸市KOBE AI PORTの庁内AI活用。セガは複数の内製ツールが共通で利用できる「共通AIサーバー」をOllamaなどで開発し、高負荷なAI処理を1カ所に集約しつつツールは軽量なまま使えるようにしています セガ、Ollamaで共通AIサーバー構築し処理集約。
基盤に何を持たせるかも、事例から読み取れます。クレスコはAmazon Bedrockを通じてClaudeを提供し、AWSのアクセス制御・監査・ガードレール機能と社内データ連携（RAG）を組み合わせた導入・実装・運用支援を行っています クレスコ、Claude提供で企業の生成AI活用を支援。富士フイルムビジネスイノベーションと杉並区の実証実験では、形式の異なる行政評価関連文書を施策単位で分解・整理し共通のデータ構造に変換した上で、生成AIが評価文案を提案しました 杉並区行政評価を認識・構造化AIで支援。北國銀行/CCIグループはMicrosoft Fabricへ移行し、2025年9月に本番運用を開始、インフラ運用の負担はほぼゼロになり、データパイプライン構築工数は従来比40〜60%削減の見込みとなりました 北國銀行、Microsoft Fabricで運用負担をほぼゼロに。
土台が整った先に何が起きるかも、数字で示されています。リコーグループは国内グループ社員約3万人が利用可能なDify環境を整備し、2026年6月15日現在で約9,500のアプリケーションが作成されました 。
共通基盤に稼働環境・処理の集約・アクセス制御・データ構造・連携口をまとめて持たせることで、業務アプリを後から短期間で追加できる状態になります。
業務アプリの前に共通基盤を用意する
神戸市はMicrosoft Copilotの全庁導入や生成AIを活用したFAQの整備を先行して進め、個々のタスク精度向上や作業時間短縮といったタスクレベルの業務改善で成果を上げていました。一方で、LGWAN環境とインターネット環境の分断によりファイル移動などの手作業が発生する点、プロンプトの精度の差で回答の精度にもばらつきが生じる点が課題として残っていました。これらを解決するため、業務プロセス自体の変革を目指してDifyによるAI基盤を構築しています 。
個別のアプリを増やすだけでは解けない課題が残る、という順序がここに表れています。セガの共通AIサーバーも同じ形で、内製ツールごとにAI処理を持たせるのではなく、複数ツールが共通で利用できる形として開発されました 。
- 個別のタスク改善で残った課題を書き出す
- その課題が基盤側で解けるものかを判断する
- アプリごとに重複している処理を洗い出す
- 重複部分を共通基盤の担当範囲として定義する
稼働環境はネットワークと要件で選ぶ
共通基盤をどこで動かすかは、利用者のネットワーク環境と要件で決まります。
KOBE AI PORTはインターネットを経由せずLGWAN環境から直接アクセスできるため、外部ネットワークに接続するパソコンを利用せずとも、通常の業務用パソコンから即座に利用できます
。大塚商会の「業務プロセス自動化 AIサービス」は、SaaS型AIエージェント基盤、NVIDIA DGX Sparkベースのオンプレミス環境、Azure CSPの3形態から、利用者の環境・要件に合わせて提供されます 大塚商会AIサービスで定型業務を短期開発。
セガが使うローカルLLMは、課金不要で使い放題、かつセキュリティー上の懸念がないというメリットがある一方、ある程度高性能なGPU搭載のパソコンでなければ快適に動かないというハードルがあります。セガのゲーム開発現場にはGPU搭載のパソコンが多数あり、ローカルLLMを利用しやすい環境が既にあったと説明されています 。
稼働環境は、利用者がどのネットワークから使うか、データを社外に置けるか、必要な計算資源が手元にあるかで決まります。
高負荷なAI処理を1カ所に集約する
セガは共通AIサーバーの導入により、高負荷なAI処理を1カ所に集約し、内製ツールはローカルで動くLLMや音声認識AIと連携しながら軽量なまま使えるようにしました
。
集約の効果について、セガの岳氏は「共通AIサーバーの導入により、高負荷なAI処理を1カ所に集約しつつ、ツールは軽量なままで使える。サーバー側は常に最新の技術を適用でき、ツール側で特に意識せずにそれらの技術を使える」と述べています。モデルの更新をアプリ側で追いかけずに済む形になります 。
アクセス制御と監査は基盤側に持たせる
業務で使う以上、誰がどう使ったかを管理する仕組みが必要です。クレスコの事例では、Amazon Bedrock上でClaudeを利用する価値として次の点が挙げられています 。
- 顧客のAWS環境内でClaudeを利用でき、入力データはモデルの再学習に使用されない
- アクセス制御・監査・ガードレール機能により、責任あるAI利用を実現する
- 社内データやシステムと連携し、自社情報を参照する生成AI（RAG）を構築しやすい
- 大規模なAI基盤を自社で構築せず、セキュアなクラウド環境で生成AIを活用できる
さらにクレスコは、クラウド総合支援サービス「Creage」と組み合わせることで、AWSアカウント管理、セキュリティ統制、コスト最適化などを含め、企業のガバナンス要件に対応した生成AI活用を実現するとしています 。これらをアプリごとに実装せず基盤側に置けば、アプリを増やしても管理の作りは変わりません。
社内データを共通の構造に変換して載せる
基盤に載せる社内データは、形式がばらばらのままでは横断的に扱えません。富士フイルムビジネスイノベーションの「認識・構造化」AI技術は、文書に含まれる情報を項目や意味の単位で捉え、文脈に基づいて整理・分類することで、形式や記載方法が異なる文書から情報同士の関係性を構造化し、横断的な比較・分析が可能なデータへ変換します 。
杉並区との実証実験では、施策・事業単位で情報を構造化することにより、過去の評価結果や他自治体が公表する行政評価関連文書などとの横断的な比較・分析が可能となることを確認しました。これにより、情報整理・分析の効率化や評価内容のばらつきの抑制につながる可能性が示されています
。
構造化したデータを、どう参照させるかも設計の対象です。KOBE AI PORTの情報検索チャットは、条例・規則、市会議事録など神戸市独自のデータを取り込み、条例・規則の該当箇所などの検索を可能にしています。生成AIの回答には根拠となる参照資料が明示されるため、回答内容の信頼性を担保しつつ業務に活用できます 。Amazon Bedrock上のClaudeについても、社内データやシステムと連携し自社情報を参照する生成AI（RAG）を構築しやすいとされています 。
社内データは、共通のデータ構造へ変換し、回答の根拠を示せる形で参照させます。
データ基盤の運用負担を減らして利用者を広げる
データを載せる基盤そのものの運用負担も、利用者の広がりを左右します。北國銀行/CCIグループの従来のデータ活用基盤は、インフラ運用の負担が大きく、データ提供までのリードタイムが長期化しやすいという問題を抱えていました 。
同グループがMicrosoft Fabricに着目した理由は、データの収集・加工・可視化までを一貫して実現できることと、統合されたSaaSであることです。移行後、インフラ運用の負担はほぼゼロになり、データパイプライン構築に必要な工数も従来と比較して40〜60%削減できる見込みとなりました
。
利用者の拡大についても、Fabricに内蔵されたAutoMLの支援などが後押しになると期待が寄せられています。運用に人手を取られない構成にすることが、使う人を増やす前提になります 。
アプリ作成を現場の担当者に開放する
基盤が整うと、アプリを作る人を情報システム部門に限定しなくてよくなります。Difyは、AIエージェントから複雑なAIワークフローの構築までを、プログラミングの知識を要さずノーコードで開発できる点を特徴としています。神戸市では、担当職員自らが業務ニーズに応じた専用アプリケーションの構築も進めています 。
作る側だけでなく、使う側の入口も用意されています。KOBE AI PORTのポータル画面は、生成AIへの指示例を集約したプロンプト集を備え、チャットでの指示もプロンプト集から選択するだけで実行できるため、AIに関する専門知識がない職員でも容易に活用できます 。
規模が大きくなったときの姿は、リコーグループが示しています。国内グループ社員約3万人が利用可能なDify環境を整備し、これまでに約9,500のアプリケーションが作成されるなど、AIの市民開発を着実に進展させてきたとしています 。大塚商会も今後、業種別テンプレートを拡充し、利用者自身がバイブコーディングを実践してシステムを内製化する取り組みを支援するメニューを強化するとしています 。
現場の担当者がアプリを作れる状態になると、基盤の上に載る業務アプリの数が増えます。
既存システムとの連携口を基盤に用意する
生成AIだけで完結する業務は多くありません。事例では、既存システムとつなぐ口が基盤側に用意されています。
- 大塚商会のサービスは「Microsoft 365」や「kintone」などの既存システムとのAPI連携処理も実装し、導入後の運用支援も行う
- 杉並区の実証実験では、職員が自身で入力した情報と生成AIが作成した文案を比較しながら内容の確認や修正が行える環境をkintone上に構築した
- Microsoft Fabricのショートカット機能により、物理的にデータをコピーすることなく複数のデータソースを統合できるようになった
いずれも、利用者が普段使っている画面やデータの置き場所を変えずに済む形です。連携口を基盤側に持たせておけば、アプリごとに接続方法を作り直す必要がなくなります。
基盤ができた後にアプリを短期間で足す
土台が整った後は、アプリを足す作業そのものが短くなります。大塚商会は、プロトタイプを早期に示しながら対話的に改善を重ねるバイブコーディング手法により、要件のミスマッチを抑えつつ、従来型の受託開発より開発期間を短縮してシステムを納品するとしています
。
神戸市では、リコージャパンとリコーITソリューションズが、会議の文字起こしデータから議事録形式の文書を生成する「議事録作成」、Excelデータで一覧化されたアンケート結果を要約しグラフなどで可視化する「アンケート集計」、テキストデータをもとに解説用の音声データを生成する「音声解説生成」の3つのアプリケーションを作成し、Dify活用を支援しました 。同じ基盤の上に、性質の異なる3つの業務アプリが並んでいます。
富士フイルムビジネスイノベーションも、行政評価業務のほか計画策定や報告書作成など幅広い業務への適用を見据え、「認識・構造化」AI技術と生成AIを組み合わせた業務支援ソリューションの体系化を進めるとしています 。
結論
ここまでの事例をまとめると、生成AIの共通基盤は次の順序で整理できます。
- 個別のアプリで解けない課題を確認し、共通基盤の担当範囲を決める
- 利用者のネットワークとデータの制約から稼働環境を選ぶ
- 高負荷なAI処理を1カ所に集約し、アプリ側を軽量に保つ
- アクセス制御・監査・ガードレールを基盤側に持たせる
- 社内データを共通の構造に変換し、根拠を示せる形で参照させる
- 既存システムとの連携口を基盤に用意する
神戸市は基盤とポータルを整えた上で、汎用チャット、プロンプト集、業務特化の専用アプリケーションを載せる構成をとり、職員が日常業務の中で生成AIを活用できる環境が整いました 。セガは共通AIサーバーで高負荷処理を集約し、ツール側は軽量なまま最新技術を利用できる状態にしています 。北國銀行/CCIグループはSaaS型のFabricへ移行してインフラ運用負担をほぼゼロにし、パイプライン構築工数40〜60%削減を見込んでいます 。クレスコはAWS環境内での実行、アクセス制御・監査・ガードレール、RAGと既存システム連携を組み合わせ、導入から実装、運用までを支援しています 。
そして、リコーグループの約3万人が利用可能なDify環境では約9,500のアプリケーションが作成されています 。
業務アプリを増やしたいときほど、アプリではなく共通基盤から設計することが重要です。