AIエージェント導入の進め方【後編】
PoCから実用化へ。本番運用につなぐ設計と改善

2026年10月30日掲載

AIエージェント導入の進め方【後編】 PoCから実用化へ。本番運用につなぐ設計と改善

AIエージェントを実際の業務へ導入し、継続的に活用するためには、AIエージェントを構築するだけでは不十分です。対象業務や必要なデータを整理した上で、既存システムとの接続、AIと人の役割分担、評価・改善、本番運用までを一体で設計する必要があります。

前編では、AIエージェント導入における7つのSTEPのうち、「対象スコープ選定」「業務理解」「データ／ナレッジ整理」の STEP 1〜3を紹介しました。

後編となる本稿では、ソフトバンクのAXソリューション本部の皿池に、その続きとなる STEP 4〜7の「環境構築」「エージェント設計」「評価・改善」「本番展開・定着」についてうかがいました。PoCで終わらせず、AIエージェントを実際の業務で使い続けるためのポイントを解説します。

前編はこちら▶ AIエージェント導入の進め方【前編】導入支援の責任者が語る、業務選定とデータ整理のポイント

お話をうかがった方

ソフトバンク株式会社

法人事業統括 AXソリューション本部
AXエンジニアリング統括部　統括部長
皿池孝治

企業のAIトランスフォーメーション（AX）を担う組織の責任者
生成AI・AIエージェント、データ統合基盤、アプリケーション開発などの技術領域を統括し、企業の業務変革に向けた技術戦略から導入・定着までを推進

環境構築から本番展開・定着へ
AIエージェント導入の7つのSTEP

AIエージェント導入は、大きく7つのSTEPで進めます。前編では、STEP1〜3を通して、AIに何をさせるかを考える前に、まず対象業務を理解し、人の判断や必要なデータを把握することの重要性を確認しました。7つの STEP は必ずしも一直線に進むものではなく、必要に応じて前の STEP へ戻りながら進めます。後編では、 STEP 4の「環境構築」から「本番展開・定着」までを取り上げ、AIエージェントを実際の業務で動かし、定着させるまでの流れを見ていきます。

STEP4｜環境構築（データへの接続環境を整える）

――PoCや本番運用に向けた環境構築について教えてください。

皿池：「環境としては、大きくデータ基盤とエージェント基盤があります。まず、必要なデータやツールへ接続できるかを確認します。その際、誰の権限で、どの情報を参照し、どの操作まで許可するかを整理し、ネットワークとアクセス権限をセットで設計します。
また、MCP （AIと外部のデータやツールを共通のルールでつなぐ仕組み）などを使う場合は、データ基盤が対応しているかも確認します。

その上で、アプリケーションレイヤーからネットワークレイヤーまでを含め、お客さまの既存環境に合わせて全体のアーキテクチャーを設計します。ただ、実際に動かす中でスコープやデータの置き方が変わることもあります。その場合は、当初の設計にこだわらず、アーキテクチャー自体を見直します」

必要なデータへアクセスできる環境が整ったら、次は、その環境上でAIに何を任せ、どこに人の判断を残すのかを具体化していきます。

STEP5｜エージェント設計（AIと人の役割を決める）

前編の STEP 3では、「人の判断が必要な箇所」を整理しました。 STEP 5では、Human-in-the-Loop（必要な場所で人が確認・判断する仕組み）の考え方を取り入れ、実際の業務でAIと人がどう役割を分担するか設計します。

――エージェント設計では、何を決めていきますか。

皿池：「プロンプト設計に加えて、人がどこまで介入するのか、Human-in-the-Loopをどこに組み込むのかを考えます。また、想定外の動作やツールの失敗に備え、再試行の上限、安全に停止する条件、担当者への通知と引き継ぎを決めておきます。更新処理では、同じ操作を重複して実行しない対策も必要です。

現在の業務（As-Is）からあるべき業務（To-Be）を描くだけではなく、お客さまの実際の運用に即した形まで具体化することが大切です。お客さまの中には、全てをAI化するのではなく、どこまでAIに任せるかを見極めることをゴールにする方もいます。重要なのはAI化率を高めること自体ではなく、AIに任せる部分と人が判断する部分を組み合わせ、業務全体として無理なく回る形をつくることです」

――本番運用を見据えると、設計段階でどこまで備える必要がありますか。

皿池：「最初はきれいに動いていても、運用中にモデルや環境が変わると、想定外の動きをする可能性があります。だからこそ、運用設計の段階から監視の仕掛けを入れておくことが重要です。

例えば、あらかじめ正答率などのKPIを定めているのであれば、その水準が維持できているかを継続的に確認できるようにします。事前に合意したKPIを設計段階から評価、本番運用まで一貫して使うイメージです」

STEP6｜評価・改善（本番移行を見極める）

環境を構築し、AIと人の役割を設計したら、その設計が実際の業務で通用するかを評価します。STEP6では、 STEP 2・3で整理した業務やデータも踏まえ、どこが精度のボトルネックになっているのかを切り分けていきます。

――PoCから本番へ移行するかどうかは、何を基準に判断しますか。

皿池：「まず、ユースケースごとに『この状態なら本番運用へ移行してよい』という基準をお客さまとしっかり定めます。本番移行の判断では、正答率や業務時間の削減といったKPIに加え、実際の業務フローへの適合性や、想定外の動作が発生した際の対応、セキュリティ、運用体制なども確認します。単にAIが期待どおりに動くだけでなく、お客さまが安心して業務に組み込み、継続的に活用できる状態になっているかを重視しています。

さらに、LLM（文章を理解・生成するAI）は使うモデルが変わると精度が下がることもあれば、逆に上がることもあります。本番移行前にはそうした変化も見ながら、業務で使える状態へ調整していきます」

――想定どおりに動かない場合、改善はどう進めますか。

皿池：「一度の検証で完成させるのではなく、評価結果から失敗の傾向を分析し、原因ごとに改善します。エラーの原因も一つとは限りません。データの品質なのか、プロンプト設計なのか、AIエージェント周辺の仕組みやスキルなのか。それぞれを見直しながら、ボトルネックになっているポイントを探します。

変更後は同じ評価ケースで効果を確かめ、別の業務で品質が下がっていないかも確認します。改善の優先順位と、本番に進める条件をお客さまと共有することが重要です」

PoCでは、単に「AIが動いた」ことを確認するだけでなく、事前に合意した基準に照らし、実際の業務で使えるかを検証します。

STEP7｜本番展開・定着（運用開始後も改善）

――本番運用を開始した後、AIエージェントを業務に定着させるには何が必要ですか。

皿池：「本番運用開始後は、あるべき業務（To-Be）で定めた通りに動いているかを継続的に見ていく必要があります。我々が定着支援に入り、お客さまと一緒にAIエージェントが業務に適用できているかを確認することもあります。

停止や品質低下が起きた場合は、業務への影響を抑えながら原因を切り分けます。修正内容は検証環境で確認し、承認した手順に沿って本番へ反映します。必要に応じて、人の対応や検証済みの構成に切り替えられるよう備えます。

『入れて終わり』ではなく、お客さま自身で回せる状態を目指して必要な期間、伴走します。複数のユースケースを継続して作る場合には、長期的に運用を支援することもあります」

ソフトバンクは、ユースケースの検討から本番運用・定着まで支援

――ここまでの説明を踏まえ、ソフトバンクではAIエージェント導入をどこまで支援していますか。

皿池：「業務課題の整理や導入方針の検討といった上流のコンサル的な業務から、ユースケース選定、ワークショップまで幅広く対応します。ユースケースが決まった後はエンジニアが入り、要件定義、設計、構築、運用、さらに定着まで一連の流れを支援できます。

一方で、全てを一気通貫で支援するだけではなく、必要な範囲に絞って対応することもあります。データ基盤の整備、AI活用の教育・育成、AIガバナンスの策定など、お客さまの予算や期間、実現したいことに応じて、何を優先すべきかを一緒に整理します。案件によっては、対象となる業界や業務の経験を持つエンジニアをアサインし、業務理解から支援することもあります。

また、ソフトバンクはマルチベンダーとして、Google の「Gemini Enterprise」や「Microsoft Copilot Studio」などを取り扱っています。自社サービスも含め、特定の製品ありきではなく、お客さまの業務課題や既存環境に応じて適したサービスや基盤を選べることが強みです」

AIエージェントの自律性が高まるほど、人による管理と安全な環境が重要に

――AIエージェント活用の今後の広がりについて教えてください。

皿池：「業務をある程度任せられるAIエージェントが、人間の裏側で自律的に動き続けるようになってきており、今後はこうした活用がさらに広がっていくと思います。

一方で活用範囲が広がるほど、AIエージェントを人の管理下で安全に動かす仕組みが欠かせません。セキュリティやガバナンスも含め、企業の業務として安心して使える環境を整える必要があります。

ソフトバンクはデータ基盤やAIエージェントの構築に加えて、クラウド基盤、ネットワーク、セキュリティなど周辺のインフラやサービスも提供できます。AIエージェントの活用を広げながら、安全に動かせる環境まで含めて支援していくことが重要だと考えています」

AIエージェント導入は、業務理解から本番運用・定着までを一体で考える

AIエージェントは「作ること」がゴールではありません。AIに任せる範囲と人が判断する範囲を設計し、本番移行の基準を定め、運用開始後も改善を続けることで、実際の業務への定着につながります。

前編と後編で見てきた7つのSTEPは、それぞれ独立した手順ではありません。必要に応じてSTEPを行き来しながら、AIエージェントを継続的に活用できる状態を目指します。

AIによる記事まとめ

AIエージェントをPoCで終わらせず、実際の業務に定着させるための進め方を紹介しています。後編では、導入の7つのSTEPのうち「環境構築」「エージェント設計」「評価・改善」「本番展開・定着」を解説。データやツールへの安全な接続、AIと人の役割分担、本番移行に向けたKPIや運用体制の確認など、実用化に必要な視点を整理しています。導入後も品質を監視し、課題に応じて改善を重ねることで、AIエージェントを継続的に活用できる状態を目指します。

※上記まとめは生成AIで作成したものです。誤りや不正確さが含まれる可能性があります。