手書きのメモをスプレッドシートに自動で整理するアプリを開発してみた!

2025年3月31日掲載

Google Cloud

近年、生成AIの進化が目まぐるしく、その性能や業務での活用方法が大きな注目を集めています。特に、Google社の提供する生成AI『Gemini』は、マルチモーダル生成AIとして、テキストだけでなく画像や動画、音声も同時に処理できるようになっています。これにより、画像に書かかれている内容を読み取り、PC内で扱えるデータにするといったことも可能になりました。

しかし、動画や画像の内容を読み取れるGeminiを具体的にどのように活用すればよいか悩む方もいるのではないでしょうか。

例えば、画像から取得したデータがただの文字の羅列である場合、そのデータを実務で使用できるように整理する必要が生じます。この際、必要なデータをスプレッドシートに転記する作業が発生すると、人手による処理が必要となり、Geminiのメリットを十分に活かせません。Geminiを活用する以上、転記作業などの手間も省けるレベルで自動化を実現したいものです。

そこで今回は、Geminiで取得した文字データを自動的に整理し、簡単にデータを使用できる状態にするアプリケーションを開発したので紹介します。本ブログを通して、業務を効率化するイメージを具体的に掴んでいただければ幸いです。

目次

想定する背景

今回は、営業担当の方が顧客商談の際にノートにとる手書きのメモを効率的に整理するユースケースを紹介します。

顧客との商談において、お客様から頂く注文や見積もりの内容をノートに手書きでメモをするケースはまだまだ多いと思います。商談後、PCに必要な情報を入力し書類作成などを行うのですが、商談が多い人ほどこの作業は時間がかかり大変です。そんな営業担当を助ける方法として、Geminiを使って手書きメモの画像から自動的にデータを入力する方法が考えられます。

しかし実は、生成AIを利用するだけでは画像の内容を欲しい形式で抽出することはできません。この場合、生成AIが抽出したデータを、人が欲しいデータ形式に修正する必要があります

そこで、今回はこのデータ修正の手間を省く方法を追求すべく、アプリケーションを開発しました。

想定する課題

今回取り組む内容を整理します。

  • 顧客と商談する営業担当が書いた「商談メモ(手書き)」の内容を自動で保存したい。
  • 後で見積書などを簡単に作成できるように、必要なデータ項目(顧客名や対象商材の名称、数量など)が整理されたテーブルの形で形したい。

解決へのアプローチ

対話型の生成AIでは解決が難しいため、手書きを情報整理した状態で格納するアプリケーションを開発して解決をしていきます。

利用するツールは以下のようにしました。

  • UIにはAppSheetを利用
  • メモを撮影した画像から必要なデータを取り出す際にGeminiを利用
  • データの格納は、Googleスプレッドシートを利用
  • 取得したデータをGoogleスプレッドシートに保存するためのプログラムはGoogle Apps Script(GAS)を利用
今回使用したGoogle Cloudのサービス

システム構成

今回作成するアプリケーションのシステム構成は以下のようになっています。

アプリケーション構成図

処理の仕組み

  1. 画像をアプリに入力
  2. 入力した画像に対し、Google Apps Scriptのコードを実行
  3. Google Apps ScriptのコードがGeminiを呼び出し
  4. Geminiが画像のデータについて回答
  5. Geminiの回答に基づいてデータ整理を行い、データを記録

今回のフローでキーとなるのは5のデータ整理です。

この段階で、Geminiの回答からデータを自動で抽出し、それらのデータを複数のテーブルで整理するような仕組みを取り入れることにより、さらなる効率化が実現します。

また、AppSheetに自動入力されたデータは、Googleスプレッドシートにも書き込まれ格納されます。

アプリの使用手順

今回は、以下の商談メモの画像をそれぞれ入力し、自動で整理される様子を見ていきます。

今回は商談メモから「顧客名」「契約する端末名とその数量」「契約するプラン名とその数量」のデータを抽出し整理します。

アプリケーションに入力する画像例(商談メモ)

今回AppSheetで作成したアプリケーションのに商談メモの画像(上の画像)を入力して、「AI読み取り」ボタンを押します。

アプリケーションに入力した画像を読み取るためにボタンを押す様子

すると、以下のように「顧客名」「契約する端末名とその数量」「契約するプラン名とその数量」のデータが抽出できました

Geminiが画像を読み取った結果、各項目が自動入力されている

ここで、Googleスプレッドシートを確認すると、「商談メモそのものに関するテーブル」「端末の契約に関するテーブル」「プランの契約に関するテーブル」に分けてそれぞれデータが保管されています(ただし、各テーブルは「商談メモID」で結びつき関係性を保持しています)。

このとき、1つのセル内に、顧客名、端末名、数量のデータが格納されるのではなく、端末名は端末名、数量は数量といった形で、各データがそれぞれ1つのセルに格納されています。自動でここまでデータが整理された状態になることで、その後データを活用する際にも簡単にデータを取り出すことができます

スプレッドシートのテーブルに格納されたデータ(商談メモそのものに関するテーブル)
スプレッドシートのテーブルに格納されたデータ(端末の契約に関するテーブル)
スプレッドシートのテーブルに格納されたデータ(プランの契約に関するテーブル)

再利用しやすいようにデータを整理する利点

今回は、Geminiで手書きメモを読み込んで、データが再利用しやすいようにデータを自動で整理する仕組みを作りました。

「データを再利用しやすいように、整理すること」はさまざまなメリットがあります。具体例を使って説明します。

営業担当のよくある行動として、商談メモの内容をまとめた後、スマートフォンの総契約台数などを算出・見積書を作成するというタスクが発生します。その際、今回のように、使用するデータがすでにGoogleスプレッドシート上に整理されていると、Googleスプレッドシートの基本的な機能や関数(SUM関数など)を使用するだけで、簡単に総契約台数を算出することができます。

また、各種資料の作成なども、整理されたデータとGoogleスプレッドシートの機能や関数の使用によって自動化できます。

以下は、「商談メモID」を指定するだけで見積書を自動作成してくれるツールの様子です。「顧客名」や「端末名」、「数量」などの情報は「商談メモID」と紐づいているので、「商談メモID」を指定するだけで必要な情報を抽出して見積書を自動的に作成してくれる仕組みになっています。これによって、資料化までの労力と時間を大幅に削減できます。このように生成AIによって抽出したデータを簡単に活用できるのは、必要なデータがすでに整理された状態となっているからです。

スプレッドシートに格納されたデータを使用して、見積書を自動作成するツール

まとめ

今回は、営業が手書きで書いた商談メモを、Geminiでデータ読み取り今後のデータ活用につながるようなデータ整理も自動で行えるようにアプリを開発したので、その概要について説明しました。

今回のケースでいうと、Geminiのほかに、AppSheetやGoogleスプレッドシート、Google Apps ScriptといったGoogleのサービスと連携することで、データの入力と整理、さらに、その後のデータ活用が非常にスムーズかつ効率的に行えることが確認できました。このように、活用方法次第で、Geminiを用いた真の業務効率化を実現させることができるといえます。

最後に

ソフトバンクでは、本ブログの内容のように、Geminiを使って業務効率化を成し遂げる未来を目指して、技術検証やソリューション立案を進めています。

  • Geminiを活用したいが方法がわからない...
  • 生成AIでうまく業務効率化ができた試しがない...
  • 単純にどのようにすれば業務効率化を行えるのかわからない...

といった悩みをお持ちの場合は、ぜひお気軽にご相談ください!

関連サービス

Google サービスを支える、信頼性に富んだクラウドサービスです。お客さまのニーズにあわせて利用可能なコンピューティングサービスに始まり、データから価値を導き出す情報分析や、最先端の機械学習技術が搭載されています。

Google スプレッドシート、Gmail、Google カレンダー、Google Chat、Google ドライブ、Google Meet などのさまざまなサービスがあらゆる働き方に対応する業務効率化を実現します。

ノーコードのアプリケーション開発プラットフォームサービスです。Google Workspace をはじめとする、さまざまなデータソースと接続し、コーディング不要で迅速なアプリケーション開発を可能にします。

おすすめの記事

条件に該当するページがございません