法人のお客さま
お問い合わせ
ビジネスブログ

生成 AI パッケージに Vertex AI Agent Builder に対応した自作プラグインを繋いでみた

辻 拓真

DevOpsエンジニア
辻 拓真

2024年7月31日掲載

キービジュアル

この記事は、2024年8月1日から2日にかけて開催される Google Cloud Next Tokyo '24 のソフトバンクブースのミニセッションで発表する内容をまとめたものです。詳しく聞きたい方はぜひソフトバンクブースまでお越し下さい。

近年、生成 AI 技術の急速な普及は目覚ましく、多くの企業がその革新的な可能性に注目しています。特に、企業内に蓄積された膨大なデータに生成AIを活用し、新たな価値を創出する試みが活発化しています。一方で、生成AIの導入や運用には専門的な知識やリソースが必要となる場合があり、企業における導入の障壁となっている状況をよく見聞きします。

そこでソフトバンクでは、企業がセキュアかつ容易に生成 AI を活用できる環境として「生成AIパッケージ」をご提供しています。生成 AI パッケージは今回ご紹介するプラグイン機能を活用することで、より高度なユースケースにも対応できる柔軟性を備えています。

この記事では、ソフトバンクが提供する「生成AIパッケージ」のプラグイン機能を用いて、Google が提供する Vertex AI Agent Builder を用いた自作プラグインを接続することで、企業内に蓄積したデータを活用した検索や要約機能を簡単に構築してみた事例を紹介します。

目次

この記事では
  • 生成 AI パッケージを独自のプラグインで機能拡張する方法を紹介します
  • 特に、Vertex AI Agent Builder による簡易的な RAG アーキテクチャをプラグインとして簡単に導入した事例を紹介します
  • 主に、生成 AI の業務での活用を検討されている方、生成 AI を活用したアプリケーションを開発しているエンジニアの方を対象としています

生成 AI パッケージ

ソフトバンクでは、パブリッククラウドの導入から運用・保守・監視・活用方法までをトータルサポートする「MSP（Managed Service Provider）サービス」を提供しております。この MSP サービスでは、生成 AI 領域におけるソリューションとして「生成AIパッケージ（旧：Azure OpenAI Service スターターパッケージ）」も提供しており、企業がセキュアかつ容易に生成AIを活用できる環境づくりを支援しています。

ソフトバンクが提供する「生成 AI パッケージ」は、これまで Azure OpenAI Service の進化とともに歩んできましたが、近日中のアップデートで Google が提供する最新の生成 AI モデル「Gemini 1.5 Pro」と「Gemini 1.5 Flash」に対応することとなりました。

プラグインによる拡張

生成 AI パッケージは、プラグインによって機能を拡張できるという特徴を持っており、独自データ連携プラグインやインターネット検索プラグインなどをオプション提供しています。これらのソフトバンクが提供するプラグインに加えて、サードパーティー製やお客さまが独自に開発したプラグインによる拡張も可能な仕組みになっています。

社内の任意のシステムや社外のサービスなどとAPI連携する独自のプラグインを開発することができるため、企業のお客さまは自社の業務ニーズに合わせて生成 AI パッケージをカスタマイズし、より効果的に活用していただけるようになります。

任意のシステムとの API 連携

さらに、生成 AI パッケージはエンドユーザーが GUI でアクセスして ChatUI として使うだけでなく、任意のシステムから API 経由でアクセスすることも可能です。これにより、企業は独自のアプリケーションやシステムと生成 AI パッケージを連携することができます。

生成 AI パッケージを API 経由で利用する場合、各 LLM モデルを用いた通常のチャットのやりとりだけでなく、生成 AI パッケージを拡張しているプラグインを呼び出すこともできます。

通常の LLM や各種 API を呼び出すアプリケーションを開発する場合は、リクエストやレスポンスのログを独自に保管する実装が必要となりますが、生成 AI パッケージの API 経由で利用することで、ログの保管を生成 AI パッケージ側に委ねることができます。これにより、企業の開発者はコア機能の開発に注力することができ、セキュリティやコンプライアンスの面でも安心です。

Vertex AI Agent Builder に対応した自作プラグインを繋いでみる

生成 AI パッケージでもオプションの拡張プラグインとして「独自データ連携プラグイン」をご提供しています。これは Azure Blob Storage に格納されたデータを Azure AI Search によってインデックス化し、Azure OpenAI Service の生成AIモデルと組み合わせた RAG (Retrieval Augmented Generation) アーキテクチャーを構築・活用するものです。

企業によっては、Google の基盤上にデータが蓄積されている場合があり、この場合は Google のエコシステム内で同様のシステムを構築するのが近道です。このために活躍するのが「Vertex AI Agent Builder」です。Vertex AI Agent Builder は、Vertex AI Search と Gemini API を組み合わせた RAG アーキテクチャーを簡単に構築できるソリューションです。

本記事では、Vertex AI Agent Builder を用いた簡易的なドキュメント検索プラグインを開発・構築してみます。

プラグインのアーキテクチャー

今回のプラグインは、以下のようなアーキテクチャーで構築しました。

  • プラグインのアプリケーションはコンテナ化
  • コンテナイメージは Azure Container Registry (ACR) に格納
  • Artifact Registry を ACR へのプロキシとして構成
  • ACR へのシークレットは Secret Manager から取得
  • アプリケーションは Artifact Registry 経由で ACR から取得したコンテナイメージを用いて Cloud Run にデプロイ
  • アプリケーションの前段には Cloud Load Balancing を配置
  • Cloud Armor の IP 許可ルールに従って、生成 AI パッケージの IP アドレスからのアクセスのみを許可

これにより、セキュアでスケーラブルなプラグイン環境を実現しました。

なお、Google Cloud 側のリソースは全て Terraform で IaC (Infrastructure as Code) でデプロイ・管理するようにしました。

Terraform によるリソース構築が完了したら、 Import documents into a data store を参考にデータストアへのソースデータのインポートを実施します。

今回は Google が公開している過去約20年分のアニュアルレポートや決算報告書の PDF が格納されている Google Cloud Storage バケットをソースにしています。

  
    gs://cloud-samples-data/gen-app-builder/search/alphabet-investor-pdfs

プラグインの開発

プラグインは OpenAPI 仕様に準拠し、以下のように至ってシンプルな動作をする API として開発しました。

  • 生成 AI パッケージの ChatUI からユーザーのプロンプトを受け取る
  • Vertex AI Agent Builder の API を呼び出し、RAG (Retrieval-Augmented Generation) の結果を取得する
  • 取得した RAG の結果をプラグインのレスポンスとして生成 AI パッケージに返す

今回は Python のアプリケーションフレームワークである FastAPI を採用し、アプリケーションの内部ロジックとしては Get search results for an app with structured or unstructured data に掲載されているサンプルコードを実行するシンプルな API としました。

デモンストレーション

今回は、Google の約20年分のアニュアルレポートや決算報告書などの公開データをデータソースとしています。

試しに Google の競合企業について聞いてみると、以下のような回答が返ってきました。
生成された結果の最後には、回答の生成に使われたドキュメントのリンクが添えられており、これらをクリックすることで実際のドキュメントを参照することができます。

まとめ

ソフトバンクが提供する「生成 AI パッケージ」のプラグイン機能を用いて、自作のプラグインを接続して機能拡張した事例を紹介しました。

特に今回は、Google の Vertex AI Agent Builder を簡易的なプラグインとして実装することで、Google の基盤上に格納した独自データに基づいて回答を生成する機能を開発し、生成 AI パッケージと統合できるようになりました。

ソフトバンクの生成 AI パッケージは、容易にセキュアな生成 AI 環境を導入していただくことができ、さらに拡張性を備えたソリューションです。今後も生成 AI の進化に追従し、お客さまの DX 推進とビジネス価値創造を支援していきます。

Google Cloud Next Tokyo'24 に最上位スポンサーとして出展します！

SoftBank は Google Cloud Next Tokyo'24 に最上位スポンサーとして出展します

8月1日（木）～8月2日（金）にパシフィコ横浜ノースにて開催される Google 主催イベント、Google Cloud Next Tokyo'24 に最上位スポンサーとして出展いたします！

「生成 AI」をテーマにソフトバンクが実践している組織全体へ生成AIカルチャーを定着化させる取組みや、生成AI時代の快適なクラウド環境を実現するために必要な、高速・安定した通信、柔軟なネットワーク構成、セキュリティ対策まで、ソフトバンクの Google ソリューションの活用事例をご紹介します。

Google Cloud Next Tokyo ’24
2024年8月1日（木）～8月2日（金） 10時～17時30分（展示ブースは11時30分から）
パシフィコ横浜ノース　臨場開催　（地図）
無料（全来場者登録入場制）
※入場にはオンラインでの事前登録が必要です。

詳細・ご登録は 公式サイト からお願いします。申し込みの際は以下の招待コードを入力ください。
招待コード：FY24nx_pt031

ソフトバンクブース内では、Looker をテーマにしたミニセッションやデモをご案内しています。
ブースでお待ちしております！

関連サービス

MSP サービス

MSP（Managed Service Provider）サービスは、お客さまのパブリッククラウドの導入から運用までをトータルでご提供するマネージドサービスです。

サービスをみる

生成 AI パッケージ

セキュアな Azure OpenAI Service 環境をパッケージとして提供するサービスです。よりスムーズに生成AIの導入を実現することができます。

サービスをみる

Microsoft Azure

Microsoft Azureは、Microsoftが提供するパブリッククラウドプラットフォームです。コンピューティングからデータ保存、アプリケーションなどのリソースを、必要な時に必要な量だけ従量課金で利用することができます。

サービスをみる

Google Cloud

Google サービスを支える、信頼性に富んだクラウドサービスです。お客さまのニーズにあわせて利用可能なコンピューティングサービスに始まり、データから価値を導き出す情報分析や、最先端の機械学習技術が搭載されています。

サービスをみる

 ＼ 業務課題をデジタルで支援 ／

デジタルツールの選定から導入の手引きまで、中小規模のお客さまへわかりやすくお伝えします。

中小規模のお客さま向けサイトをみる

メールマガジン登録（無料）
ビジネスに役立つ記事やウェビナー情報をお届けします。

おすすめの記事

条件に該当するページがございません

法人のお客さま向け イベント

イベント・セミナー

ビジネスに役立つ 資料ダウンロード

資料ダウンロード

「今」と「未来」を発信 ソフトバンクのビジネスブログ

ビジネスブログ

クラウドテクノロジーブログ

クラウドテクノロジーブログ