生成AIのユーザ会!3/7 SoftBank Tech Night 開催レポート【後編】

 

2024年4月9日掲載

多くの企業が生成AIの活用を模索し、業務効率化と生産性向上を目指していますが、さまざまな課題もあります。そこで、3月7日に開催された SoftBank Tech Night では、生成AIの中でも Azure OpenAI Service の活用に取り組んでいるユーザ各社にご登壇いただき、取り組み発表を行いました。
今回は後編で、生成AIパッケージの最新情報やソフトバンクの営業部門での活用事例、ソフトバンクの開発部門による開発効率化についてご紹介します。

 

日産自動車様、アセットマネジメントOne様の取り組みをご紹介した前編はこちら

目次

新しくなった生成AIパッケージ

ユーザ各社の発表に続いて、生成AIパッケージ(旧: Azure OpenAI Serviceスターターパッケージ)の新機能やアップデート内容の紹介がソフトバンクの佐野より行われました。

ソフトバンク 佐野による講演

佐野「新しくなった生成AIパッケージでは、多彩な機能をセットした新UIや、プラグインによる社内データ連携やインターネット上のリアルタイム情報をもとにした回答が可能になる、インターネット検索機能を正式リリースしています。また、レポート機能や個人情報検出機能も追加リリースしています」

プロダクトアップデートサマリー

この後、実際のUI画面のデモンストレーションを実施し、機能の紹介を行いました。

佐野「インターネット検索プラグインではURLを指定することで、該当ページの要約も行えるようになりました。Good/Badボタンを利用することで生成AIの回答を評価できるようになり、活用方法次第では回答精度の向上に役立てることができます。マルチモーダルは現在開発中で画像分析し、テキストによる応答を提供できる予定です」

 

独自データ連携プラグインを利用することで、さまざまな状況に対応できると佐野は述べました。

佐野「例えば、社内問い合わせに対するFAQデータへのプラグインや、人事規定と連動した文書検索などの利用方法があります。また、右側は現在開発中の利用者権限に応じたプラグインの使い分けです。経営会議の資料は一般従業員には表示させないなども行えるようになります」

独自データ連携プラグイン。目的に応じた使い分け

最後にこれら生成AIを含むソフトバンクのAIエコシステム全体構想について述べました。

佐野「ソフトバンクのプラットフォームを通してさまざまなサービスと連携することで、生成AIを最大限に活用できるようになります。例えば、Microsoft なら Copilot や Azure OpenAI Service、Google なら Gemini など連携して繋がりますが、我々のプラットフォームはそれぞれ選択した上でほかのさまざまなサービスと連携させることが可能になる予定です。また、アノテーションサービスであるTASUKI Annotationなど、利用におけるラストワンマイルも提供が可能です」

AIエコシステム全体構想

ソフトバンク営業部門による生成AIの取り組み

ここからは、ソフトバンクの西原より営業現場から生まれた生成AIの活用事例についての発表がありました。

ソフトバンク 西原による講演

西原「西日本営業本部のストラテジー&ソリューション開発室は私を除いて全員20代の営業社員が所属しており、営業現場の業務効率化や若手社員の教育、新しいテクノロジーに触れて自身に落とし込むことに取り組んでいます。そのような部隊が中心となって進めてきたのが、生成AIパッケージ(旧 Azure OpenAI Service スターターパッケージ)を利用して取り組んだエックスベースキャンプという生成AIです」

(本取り組みの詳細はこちらの記事をご参考ください)

主に3つのカテゴリからなる12のプロンプトを掲載していて、今月中には30以上のプロンプトを追加する予定です。また、生成AIだけでは業務効率化できると考えておらず、いかにほかのテクノロジーと組み合わせて利用するかというコンセプトのもとで取り組んでいると西原は続けます。

西原「例えば、Zoomの文字起こしのテキストデータをRPAを使って生成AIでサマライズし、議事録がメールで自動的に返信されてくるツールや、決算短信のPDFから要約や仮説課題など分析をした上でメール返信がくるツールもリリースしています。画像理解のAIでPDFからテキストデータを抽出しきることは現時点ではまだ難しいこともあり、現状ではOCRを利用し生成AIに理解させることで精度を高くしています」

生成AIを現場で定着させるには

生成AIの導入では3つのステップがあると西原は言います。

西原「一番大事なのはステップ2の『いかに定着推進していくか、社員教育と風土を醸成していけるか』だと我々は考えています。理解促進では、学習コンテンツである Axross Recipe for Biz を用いた教育や、便利なプロンプトなどの情報発信を定期的に行いました」

その他、プロンプトのコンテストなども実施し浸透を進めていきました。

(本取り組みの詳細はこちらの記事をご参考ください)

企業の生成AI導入ステップ

また、ステップ3の自社データ活用として、社内資料の連携も進めています。

西原「弊社では『おとく光電話』という電話サービスの PowerPoint で100ページ分の資料を実装していますが、実装には時間がかかりました。理由としてグラフや写真、矢印などビジュアライズ化された情報は現状の(マルチモーダル化されていない)生成AIではなかなか理解しきれないこともあり、結局はアノテーションで構造化データにすることで実装して検索精度を上げる作業を実施しています。この作業を行うことで検索精度が36%から84%へ向上しました」

検索精度向上の対策

講演のまとめとして生成AIを活用するためのポイントを3つ述べました。

西原「1点目が、ツール展開だけでなく、いかに推進策とセットで進めていけるか。2点目が、身近な風土を育むことを意識できるか。3点目がデータ連携を見据えた上でデータの構造化も環境準備と同じくらい優先着手していただくことです。ソフトバンクではそれぞれのステップに応じたソリューションを取り揃えているので、ぜひご検討・ご相談ください」

講演の最後に、ツールを使って業務を楽しくするきっかけの一つになる取り組みとして、生成AIを使ってソフトバンクの今井副社長(当時)の性格や言い回しをまねるBotのデモを実施して講演を終えました。

ソフトバンク開発現場の効率化の取り組み

最後の講演としてソフトバンクの辻が登壇し、開発のコーディング支援ツールである GitHub Copilot を使わずにセキュアに生成AIを活用して開発を効率化した取り組みについて発表しました。

(本取り組みの詳細はこちらの記事をご参考ください)

ソフトバンク辻による講演

辻「生成AI活用のツールとして話題のものがコーディング支援を行ってくれる GitHub Copilot です。しかし、クラウドベースのSaaSサービスであるため外部サーバにソースコードを送信する必要があり、セキュリティ面で使えないケースがあります。また、コスト面でも1ユーザあたり$19(2024年3月7日時点)ということもあり、スモールスタートしたい方や開発者が多い企業では出費が多くなってしまいます。そのような課題から GitHub Copilot を使わずに同じようなことができないか社内で検討してみました」

つかうもの

「まず、Azure OpenAI Service (AOAI) は、セキュアで拡張性のあるプライベートのOpenAI基盤を作るためには必要です。また、API開発の際によく使われるフルマネージドサービスである Azure API Management は、APIの呼び出しや応答ログの記録や分析のためにも必要です。AOAIはこれらの機能をもっていないため、要件次第では組み合わせていくことが必要になります。

また、Genie AI(ジーニーエーアイ)は、GitHub Copilot と同様にVSCodeなど開発環境の拡張機能として導入して使うことができる、OSSで開発されたプロジェクトです。Azure OpenAI Service のエンドポイントも利用できるので閉域接続でき、コード漏えい対策もとることが可能です。

PR-Agent(ピーアールエージェント)は、プルリクエストやマージリクエストの作成とレビューまでを自動化してくれるツールで、こちらもOSSプロジェクトで開発されています。開発リポジトリのCIのワークフローに組み込んで使うことができ、GitHub以外のバージョンコントロールシステムでも利用できます」

構成イメージ 構成イメージ

実際の効果として次のように辻は語りました。

辻「今回の仕組みを導入したことで、コスト面以外で良かった点として、開発スタイルの変化がありました。今までは開発者が疑問を持ったときは有識者をつかまえて質問や相談をしたり、インターネットで検索して情報を見つけていましたが、生成AIを導入したことで時間や場所を問わずに質問でき、社外秘の情報やソースコードであっても添付できるようになりました。またレビュアーの観点では、人によってまちまちなレベルのレビューをせねばならず大変でしたが、生成AIを利用すれば統一フォーマットで一定の記述レベルで書いてくるので、非常に読みやすい内容になりレビュー工数が削減でき、結果的に開発スピードも向上しました」

しかし、開発現場で生成AIを活用することは多くのメリット生み出すものの、良いことばかりではありません。生成AIの回答全てを鵜吞みにせず人間の目で精査したり、生成AIの発言を軽視しないようにプロンプトやパラメータの工夫、運用の見直しなどが必要だと最後に述べました。

まとめ

今回は後編として、生成AIパッケージの最新情報やソフトバンクの営業部門での活用事例、ソフトバンクの開発部門により生成AI活用についてご紹介しました。前編では、日産自動車様とアセットマネジメントOne様の取り組みについてご紹介しています。ぜひ前編もご参考ください。

ソフトバンクでは生成AIの業務活用に向けてさまざまなご提案やサポートを実施しています。ぜひソフトバンクへご相談ください。

SoftBank Tech Night 生成AI ユーザコミュニティイベント(オンデマンド配信)

当日の様子はこちらからご確認いただけます。

資料ダウンロード

条件に該当するページがございません

関連サービス

生成AIパッケージ

セキュアなAzure OpenAI Service環境をパッケージとして提供するサービスです。よりスムーズに生成AIの導入を実現することができます。

Azure OpenAI Service

クラウド上で利用可能なAIサービスで、機械学習や自然言語処理などの高度な機能を提供します。顧客は、簡単にAIを組み込み、スケーラブルなソリューションを構築し、効率的にビジネス価値を生み出すことができます。

関連セミナー・イベント

条件に該当するページがございません

おすすめの記事

条件に該当するページがございません