生成AI ユーザーコミュニティイベントリポート
ユーザーによる生成AIの取り組みをご紹介

2024年10月22日掲載

生成AI ユーザーコミュニティイベントリポートユーザーによる生成AIの取り組みをご紹介

多くの企業が生成AIの活用を模索し、業務効率化と生産性向上を目指しています。今では単なる検証の段階から、特定のデータ連携をして業務効率化につなげるケースも増えてきました。このブログでは、2024年9月にソフトバンク主催で開催された「生成AI ユーザーコミュニティイベント」の様子をお伝えします。

「生成AI ユーザーコミュニティイベント」とは

ソフトバンク株式会社が主催する「生成AI ユーザーコミュニティイベント」は、生成AI（Azure OpenAI Service）を活用している各社から、生成AIの利活用を通じて得た定着化のポイントや知識、ノウハウなどの情報をユーザー視点で共有いただくものです。第一部は講演形式で行い、第二部の交流会ではお客さま同士の意見交換を通じて有益な情報を持ち帰っていただくことを目的としています。

アセットマネジメントOne株式会社の生成AIの取り組み

まずは、アセットマネジメントOne株式会社の立花氏にご登壇いただきました。

「私からは『生成AI時代に向けた活用推進への道』という内容でお話しさせていただきます。当社は、2023年6月に役員の号令で生成AIの導入検討が始まり、ソフトバンクさんの協力を得て3カ月後の9月に専用のChatGPTシステム『ONE Q（ワンキュー）』の利用を開始しました。その後もモデルのアップデートやプロンプト共有機能の導入などを経て、活用の幅を広げています。

当社の 生成AI推進体制 は特徴的で、ITレイヤー側の関わる人間は比較的少人数で、メインとなるのはユーザーサイドです。生成AIの利用範囲が広いため、ユーザー自身がどのように活用できるかを考えることが重要です。そこで、DX部門、システム部門、人事部門、サポート・運用部門など、専門的なナレッジをもつ人材を集結した体制となっています。また、リスクガバナンスと人材育成も並行して進めています。

そんな体制で進めて行く中、2月頃にRAG^※を用いた自社データの活用フェーズに差し掛かった際、利用率が上がらないということが調査により分かりました。生成AIを業務に活用できている人、そうでない人の格差が拡大していることに危機感を覚えました。生成AIの活用を進める計画や、理想の成果を求めるあまりの結果なのかなと感じ、GTP-4oやプロンプト共有機能のアップデートを機に、利用者に刺さる活用促進の強化を始めました。

具体的な活用促進の内容として、実業務に即したシナリオを作成し、事例と併せて デモンストレーション を実施しました。また、未活用者をターゲットとした、『生成AIプロンプト道場』 を立ち上げ、少人数グループでのハンズオン形式で、利便性を体現してもらいました。これらの取り組みの結果、生成AIの利用率は着実に向上しています。さらにプロンプト道場で取得したノウハウを横展開していくことで、利用率の拡大や生成AI人材の育成を組織的に拡大するメリットもあります。今後もデモンストレーションや勉強会を通じて、さらに多くのユーザーに生成AIを活用してもらい、投資効果を最大化することを目指しています」

※ RAG（Retrieval-Augmented Generation）：複数のデータベースから情報を検索・統合し、それをLLMが自然言語として処理を行う技術のこと

ソフトバンク,生成AIユーザー会,ユーザーコミュニティ

プロンプト道場のイメージ

株式会社みずほフィナンシャルグループの生成AIの取り組み

続いてみずほフィナンシャルグループの齋藤氏にご登壇いただきました。

「DX本部の齋藤と申します。我々のグループでは、どんなことをどんな体制でやってるのかを幅広く共有していこうと思います。まず、みずほフィナンシャルグループにおける生成AIの体制づくりについてお話しします。今年の4月にAI-CoE（センターオブエクセレンス）を立ち上げ、全社にAIを推進するAIX推進室を設置しました。また、みずほ第一フィナンシャルテクノロジー、みずほリサーチ＆テクノロジーズなどの専門人材のリソースを集約し、内製開発のラボ体制を構築しました。このように、デジタル企画部の中にAIトランスフォーメーション専用の室を設置することで、業務適用推進やイノベーションの創出、経営陣に向けた啓蒙活動を行っています。また同時に、金融機関としての責任あるAI の推進も同時に行っています。

生成AIの業務適用は3段階に分け て考えています。まずは早く導入することを目指し、みずほ社内チャット『Wiz Chat（ウィズチャット）』を2023年6月に導入しました。その後、立て続けに、アイデアソン（新しいアイデアを生み出すために行われるイベント）を実施し、画像入力などの機能を追加しました。現在はフェーズ2に当たる社内データの利活用を進めている段階で、将来的には責任あるAIを完全に充足した上で、お客さまサービスへの活用へと進めていきたいと考えています」

生成AIの業務適用は3段階に分けて考えています

3フェーズに分けた生成AIの活用

「ここから、いくつかの取り組みをご紹介します。まず、汎用的なチャットである『Wiz Chat』 についてはソフトバンクさんの協力を得て、生成AIパッケージを活用し、構想からわずか3カ月でサービスリリースしました。計4回のバージョンアップを経てマルチチャネル・マルチモーダルを実現しています。今後はGemini を使ってプロンプトを増やし、利用シーンを拡大していきたいと考えています。取り組みの2つ目としては、検索に特化した 照会系AI『Wiz Search』 のPoCを実施しております。金融機関の手続きやマニュアルの情報は膨大で日常的に情報を検索する必要がありますが、これを簡単にし、AIによって回答を導き出すことができます。3つ目の取り組みとしては、個別特化AI『Wiz Create』 というもので、一例として想定Q＆Aを生成するAIを内製で開発中です。これは特定のアウトプットを出すことができるもので、例えば、銀行の営業が中小企業の社長に提案を行う場合などを想定し、提案書のPDFをアップロードすると相手からの想定質問や不足点を指摘する機能を持っています。これらのアプリケーションを統合し、効率的なアーキテクチャを構築することも検討し、価値の最大化を図っていきたいと思っています。

利用率の向上については、オンラインレクチャー会やオフラインの活動『DXカフェ』を通じて、ユーザーの声を直接聞き、フィードバックを得ることで新しいアプリケーションの開発につなげています。Wiz Chatの具体的なユースケースとしては、契約書の一次チェックや、過去のEXCEL VBAマクロのメンテナンスなどがあります。ユーザーのログを集計し、効果的な使い方を社内展開することで、利用率をさらに向上させています」

興和株式会社の生成AIの取り組み

お客さま登壇の最後を締めくくるのは、興和株式会社の安藤氏です。

「弊社からは、生成AIを導入するまでの流れとDX推進についてお話ししていきたいと思います。弊社はデジタル化が遅れており、Microsoft365やWEB会議システムなども導入されていない状況でした。コロナ禍において社員がどこでも働ける環境を整えることの重要性を感じ始めたころ、2020年にIT戦略課が新設され、私が課長として任命されました。取締役会で『新たなネットワーク基盤を構築し、いつでも・どこでも・どんなデバイスでも、セキュアな環境で仕事ができる環境を作る』ことを宣言し、約3年かけてネットワーク基盤と各種デジタルツールの導入をソフトバンクさんなどと協力し、デジタル化を推進しました。

主要なデジタルツールの導入が完了し、次のアクションを検討していた時、2022年11月にChatGPTが登場しました。興和グループのビジョンは『健康と環境』が主軸ですが、加えてIoTやロボット技術を取り入れて生活を豊かにすることを目指しています。生成AIの導入には経営層も積極的で、導入の方針を決めました。

IT戦略課は当時2名体制で、AIに関する専門的な知識を持っているわけでもなかったのですが、この世の中の勢い、また、若い世代たちがどんどんAIを活用しさまざまなAIを活用したサービスの提供を発信している中で、負けてはいられないという思いからも、まずは、生成ＡＩの利用に関するガイドラインを策定し、安全に使える環境を整えることを最優先事項として生成AI導入の検討を開始いたしました。生成AIの知見をもつ社員がいない中でも、ソフトバンクさんの伴走体制の導入支援により、スピーディーかつ、高いセキュリティが担保できるシステム構成 を作ることができることが選定の決め手となりました。またMSPサービスで 24時間365日のサポート を受けられることも決め手の1つです。

今回のシステム構成は、閉域接続でAzure OpenAI Service 環境を構築できたことがポイントです。こちらもソフトバンクさんに相談し、安心してお任せすることができました」

フェーズ別に進めた構成図イメージ

「現在、社内での利用状況は1ヶ月あたり約800名程度（約20％）が使っており、その使用用途は翻訳の利用が多いですが、ほかの使い方も増やしていきたいと考えています。IT部門のリソースが少ない中でも、生成AIの情報を発信していくDXエバンジェリストを各部門に設置する取り組みをし、社内の利用促進を図っています」

生成AI利用時のデータ連携のポイント

最後に、ソフトバンクで生成AIパッケージを担当する原田が、生成AI利用時のデータ連携のポイントについて講演を行いました。

「生成AI導入の実行ステップとして、4つのステップに分けて導入を推奨しています。これにより、課題や検討事項を洗い出しながら進めることができます。本日は2つ目のデータ連携ステップにおけるポイントをお話しします」

「データ連携に向けて検討すべき内容は4つあります。
①データ連携を行う業務内容の定義（業務の選定、評価基準の検討）
②利用範囲の設定（連携データの準備、権限範囲の確認）
③回答精度の向上（アノテーション、プロンプトエンジニアリング、モデルチューニング）
④さらなる活用に向けた検討（データ連携による活用領域の検討や予算確保）

今回は課題になりやすい3つ目の『回答精度の向上』について詳しくお伝えしていきます。データ連携が必ずしも完璧な回答生成につながらない場合があります。回答精度が低い場合の原因は大きく2つに分けられます。1つ目はデータが構造化されていない場合で、要約図などを多用する資料ではデータの意味を読み取れず、回答が難しくなります。対策としては、LLM^※がデータをより読み取りやすいように構造化が必要です。2つ目はプロンプトが適切でない場合で、対策としてはRAGのチューニングを通じて適切な命令文を与える必要があります。

チューニングが必要な箇所は3つあります。1つ目は『検索パラメーターのチューニング』で、検索手法のチューニングや、シノニム（類義語）登録で、表記揺れを事前に登録しておくことで検索精度を向上させます。2つ目は『チャンキングチューニング』で、チャンク（文章の塊）を適切に分割することを指します。データの文字数が多すぎるとトークン超過によりエラーが発生したり、変な箇所でチャンク分けされた場合にはハレーションの原因にもなります。トークン上限をオーバーしないよう、かつ生成AIが正確な内容を認識できるよう、適切なチャンク分割を実施することが重要です。3つ目は、『プロンプトチューニング』で、システムプロンプトであらかじめルールや言葉の定義を渡しておくことで、回答精度を向上することが期待できます。チューニングは一度で完了するものではなく、数回に分けて行う必要があります。チューニング内容の検討と実施を繰り返し、精度向上につなげます。

最後になりますが、データ連携はあくまで手段であり、それを通じて目指すべき姿は、『生成AIを活用した生産性の向上と効率化』 です。弊社ではこの目標に向けて生成AIの活用をサポートしていますので、ご興味がありましたらぜひお声がけください」

※LLM（Large Language Models）：大規模言語モデルと呼ばれるテキストの読解・生成に長けた人工知能の一種

まとめ

今回はユーザーとして3社にご登壇いただき、活用例やノウハウをお話しいただきました。またソフトバンクからは、お客さまが業務効率を実現するためのステップにてよくある課題を、技術的な話を交えてお伝えしました。交流会では多くのお客さまが積極的にユーザー各社の方へ相談する様子や、導入に対する課題をお話しされていました。

ソフトバンクでは生成AIの業務活用に向けてさまざまなご提案やサポートを実施しています。ぜひ生成AIをご検討の際は、ソフトバンクへご相談ください。