Azure OpenAI Serviceの「On your data」で自社データを組み込んでみた

2023年１月（ChatGPT対応は３月）から提供が開始されたAzure OpenAI Serviceを企業内で使う場合、セキュアな通信環境が求められます。

このブログでは、Azure OpenAI Serviceの機能を自社データと連携するする方法について複数回に分けて紹介していきます。

第１回の記事の今回はAzure OpenAI Serviceの「On your data」機能で自社データを組み込んでみました。

１.背景

ChatGPTは、抽象的なものを生成することには非常に適しており、アイデア出しや壁打ちなどで活用する人はよく見かけます。しかし、具体的事象や決定的な事象について尋ねると「不正確で適当なことを、それっぽく、あたかもそれが正しいように」しか回答してくれません。このようにChatGPTの回答は不正確なことがあり、業務で広く活用すると、逆に業務の足枷になる懸念があります。

そのため、自社データを組み込んで正確性と実用性向上を目指す取り組みが注目されていましたが、実装にはAPIや複数のサービスを組み合わせたアプリ開発が必要でした。そこで登場したのがAzure OpenAI Service の「On your data機能」です。これは、自社データの組込みの難易度を格段に楽にしたものです。Azure等の他のサービスとシームレスに連携し、Azure OpenAI Serviceを強化してくれます。

２.On Your Dataとは

Azure OpenAIのモデルで独自のデータを使用することができる機能です。独自のデータを使用することで、より高速で正確なコミュニケーションを可能にする強力な会話型AIプラットフォームが使用できます。具体的には、独自のデータとGPTモデルを簡単に連携させることができ、GPTが知らない独自のデータを参照して回答を生成できるようになります。また、回答のソースを独自データに限定することもできるため、ChatGPTの活用の幅が大きく広がります。

３.検証作業

3.1想定ユースケース

今回、想定するケースはソフトバンク電話料金資料を参照しながら問い合わせに回答するChatGPTを作成します。ユーザが特定の料金について疑問を持った場合、ChatGPTを介して詳細な説明や解決策を提供することができ、ソフトバンクの電話料金に関する情報を効率的かつ正確に提供することができ、ユーザの疑問や問題解決に役立つチャットボットを実現することができます。

また、今回はAzure Blob Storageに規定類を格納しておき、質問をするとChatGPTで格納した規定類の中から関連する項目をAzure Cognitive Searchを使って検索し、検索結果を踏まえてユーザに回答するという構成としました。ちなみに、Azure Cognitive Search は、Microsoftが提供するクラウド検索サービスであり、API等を使ってアプリケーションに検索機能を組み込むことができるものです。

3.2検証の流れ

Azure Blob Storage、Azure Cognitive Search、Azure OpenAI Serviceなどのリソースを作成し、Azure Blob Storageへ検証用の電話料金資料をアップロードします。その後、Azure Cognitive Searchによって自動的にインデックスが作成されます。作成されたインデックスはChatGPTと連携してデプロイされ、質問をすることで動作確認を行います。

3.3検証データセット準備

まず、Azure Cognitive Searchのリソースを作成します。

次に、検証用データを準備し、Azureに保存します。Azureストレージアカウントを作成し、そこにコンテナを作成してデータを保存します。

その後、保存したデータをAzure Cognitive Searchに接続し、検索可能な状態にします。[Azure search]のStorage Accountsから作成したCognitive Searchのリソースを選択して接続します。