ソフトバンクは「AXインテグレーター」へ
～生成AI導入実績 600社から得た知見とノウハウ～

我々がインテグレーターとして歩むのであれば、まず自社で徹底的にAIを活用するということが大切です。社内ではAI活用コンテストを実施することで、新たなアイディアが生まれ、新規事業のきっかけを作っています。ソフトバンクショップのクルー22,000人が店頭提案サポートに活用したり、法人営業ツールのサポートでは累計3.6万時間の工数削減、セキュリティチェックの自動化においては、評価時間を97.1%削減するなど、大きな成果を実現しています。

2024年8月時点（暫定数値）で、694社のお客さまに生成AI関連ソリューションを導入をいただいていますが、AIをもっと企業に浸透させていきたいという思いがあります。帝国データバンクの調査^※1によると、生成AIを活用している企業はいまだ17.3％しかありません。AI人材やノウハウ不足、情報の正確性への不安やルール・ガバナンスの問題など、理由はさまざまです。

この不安をソフトバンクのエンジニアが全力で支援してまいります。弊社のエンジニアは、メジャークラウド^※2からトップエンジニアに選出されたり、世界のIT企業が取得を目指す『CompTIA Certified Team Award』を日本企業初、3年連続で獲得するなど、多数のエンジニアが高いスキルを持っていることが評価されています。

生成AIの活用に一歩踏み出せない場合、ぜひ弊社にご相談をいただきたいです。

このあとは、松田本部長へバトンを渡し、技術部門の目線での話しを聞いていきます」

※1：出典:帝国データバンク「生成 AI の活用状況調査」(調査期間 2024年6月14日~7月5日、回答企業数 4,705社)
※2：この記事ではMicrosoft ,Google Cloud ,aws を指す

生成AIを業務活用する上での3つのポイント

続いて、技術部門の責任者である松田が、生成AIを業務活用する上でのポイントについて語りました。

「生成AIの利活用はここ数年で変化してきました。『とりあえず使ってみよう』という検証利用から、具体的な業務利用のフェーズへ進みつつあります。私からは、生成AIを活用する上でのポイントを3つご紹介していきます。

まずは活用シーンの選定です。『導入したけどなかなか活用が進まない』という悩みがよくあります。生成AIありきでどう活用するかを検討するのではなく、経営課題や現場課題の解決が見込めるかという視点が重要です。活用シーンの選定に向けたアプローチとしては、アセスメントとワークショップの実施が最も有効です。技術観点で実用性をアドバイスし、具体化することで、生成AIの特徴や必要なデータ、システム連携や構築期間など、より具体的な解決案をご提案することができます。

半導体製造装置などの開発、製造、販売を行うKOKUSAI ELECTRICさまでは、約3カ月かけてアセスメントを実施しました。まずは我々の作成した独自のアンケートで、10部署にヒアリングを行って活用シーンを洗い出します。そこから優先順位をつけて、実用性や効果を検討していきました。

業務活用をする2つ目のポイントは、回答精度の向上です。『実務であと一歩使えない』という声がよくあります。プロンプトの入力の仕方で回答にばらつきがあったり、自社のデータを回答生成の材料として使うケースではデータが不十分なため精度が向上しない場合が多いです。その場合はデータチューニングによる精度向上の実施が有効です。RAG^※3によるデータ連携で、インデックス化やチャンク分割、検索方法の調整、プロンプトの工夫で回答を安定させていきます。データの構造化も重要な視点になってきます。図表をテキスト化したり、ファイル分割、メタデータ付与、非構造化データの工夫で回答精度の向上につながります。（実際にデータチューニングを活用した事例は後日、オンデマンド動画からご視聴いただけます）

さらなる精度向上に向けては、複数のAIモデルを組み合わせることで、より高度なタスクを実行することも可能です。（実際に複数のAIモデルを活用した事例は後日、オンデマンド動画からご視聴いただけます）

最後に、業務活用をする3つ目のポイントはデータガバナンスです。RAGやファインチューニングのお話しをしましたが、生成AIを活用するためにデータを整備していくには、ガバナンスを効かせたルール作りであったり、データ基盤の構築、そしてデータの鮮度を保つための運用体制が必要です。これらの運用体制構築に向けたサポートを、我々が支援してまいります」

※3：RAG（Retrieval-Augmented Generation）は「検索拡張生成」と訳され、大規模言語モデル（LLM）によるテキスト生成に外部情報の検索を組み合わせることで、回答精度を向上させる技術を指す

セキュアで利便性の高いITインフラの必要性

次に宮本が、生成AI時代に必要なセキュアで利便性の高いITインフラの必要性について語ります。

「生成AIの活用が進むと、多くの構造化されたデータが生成されます。それに加え、すでにお客さまでお持ちの購買データや製品のデータと連携し、研究開発や経営分析、デジタルマーケティングで使うなど、さまざまな用途で使うシーンが出てくるかと思います。このような貴重な情報を最大限に活用するためには『セキュアで利便性の高いITインフラ』が必要不可欠です。私からは3つのポイントについてお話ししていきます。

1点目は、クラウド前提の通信環境についてです。ワークスタイルの多様化により、オフィスだけでなく自宅や外出先からも業務システムや社内システムにアクセスできる環境が必要です。どこからでもストレスなくOA環境にアクセスできるだけでなく、機密データを扱うシステムには閉域環境から接続できるようにするため、アクセスするデータによって直接アクセスとセキュアアクセスを使い分ける『ハイブリッド』な環境を構築することが重要なトレンドとなっています。

また、リモート環境から、いかに利便性を損なわずにセキュアにアクセスできるかが非常に重要なポイントになってきますが、その答えとして『セキュアWebゲートウェイ^※4』というものがあります。弊社でも複数の取り扱いがありますが、共通して言えることは、正しい利用者だけがアクセスできる環境を提供する仕組みになっています。またマルチファクタ認証^※5も必須の要素になります。

2点目のポイントは、アクセスコントロールです。特定のデータにアクセスできる管理者とアクセスを制限される社員のルールをシステムで制御することを指しますが、生成AIを利用する際には特に注意が必要です。

生成AIに質問する際、アクセス権のない情報を含む回答が返ってくる可能性があるため、アクセスコントロールの設計が重要となってきます。具体的には、部門や職位、契約形態ごとにデータを保存し、それぞれに適したアクセス権を持つアカウントと紐付ける仕組みが必要です。これにより、例えば正社員には予算情報を開示し、契約社員には制限するなどの対応が可能です。この仕組みはセキュリティ向上だけでなく、回答の精度向上にも効果があります。多くの企業にこの仕組みを提供し、活用していただきたいと考えています。

※4：ソフトバンクで取り扱いのあるセキュアWebゲートウェイは、以下のページからご確認頂けます
クラウドファイアウォール
Zscaler™インターネットアクセス
Netskope（ネットスコープ）

※5：マルチファクタ認証は、多要素認証とも呼ばれ、通常のID・パスワードの認証に加え、ワンタイムパスワードや電子証明書など複数の認証要素を提供することを要求するID検証方法を指す

3点目のポイントは、セキュリティ監視／運用です。ソフトバンクが提供する、マネージドセキュリティサービス（以下、MSS）は24時間365日の体制でセキュリティの監視から緊急対処までを行います。これにより、セキュリティインシデント発生時の初動対応が迅速に行え、被害を最小限に抑えることが可能です。MSSを導入している企業は、攻撃者の不正侵入を検出・ブロックし、ランサムウェア攻撃などの被害を防ぐことができます。サイバー攻撃の高度化に対応するためには、侵入を前提とした対策が重要です。ソフトバンクは、セキュリティポリシーの策定や統合監視などの幅広いサービスを提供し、各業界に応じたセキュリティ対策を行っています。そして、このようなITインフラを構築できるエンジニアの育成にも力を入れ、お客さまのビジネスの成功をサポートします」

対談形式で語るAI導入におけるソフトバンクの位置づけ

企業が生成AIを活用する際のポイントについて説明された後、対談形式で生成AI導入を支援する具体的な内容について詳しく語りました。

桜井：「どんなシーンで生成AIを活用するかイメージがつかない」というお客さまも多いと思いますが、そんなときはどのようにお客さまを導くのでしょうか。

松田：アセスメントとワークショップが、最も有効だと考えています。活用シーンというと、他社の事例を参考にするケースもありますが、本当に必要な課題解決にならないケースが多いので、そのお客さまにおける「課題の本質」がどこにあるのかを見極めるために、アセスメントとワークショップが重要です。

桜井：POCにおいても言えることですが、「課題の本質が何か」ということが最も重要であるのは同感です。実際にどのようなサポート体制なんでしょうか？

松田：活用シーンの選定に向けては、私どものエンジニアもチームの一員として参加するケースがあります。アセスメントで実際の活用シーンを洗い出し、ワークショップでは議論を通じて活用イメージを共創するアプローチを行います。技術的な観点で意見を出すほか、この場合には個別のアプリケーションの開発が必要、というような形で解決策へと導けるようにします。

桜井：導入した後の効果測定についてはいかがでしょう？

宮本：KPIの定点確認と改善プロセスが重要です。AI導入時は精度が低いケースがあるので学習データの提供とモデルの評価・レビューが必要です。これにはお客さまの協力が不可欠で、これが精度向上とKPI確認につながります。

桜井：お客さまの支援をしてきた中で特に苦労した話はありますか？


宮本：宮崎県 日向市様では、町内業務の改善のために生成AIを導入されましたが、POCを始めてみると期待値が高かったために回答精度が期待値に達しないことや、ハルシネーション^※6の課題に直面し、開始から2カ月後には満足度が大幅に低下しました。その後、改善に向け多くのフィードバックを基に、マルチターンやチャンク分割、プラグイン開発、検索データ管理などの改善を重ね、満足度を向上させました。

桜井：営業と同じく、エンジニアも最前線でお客さまのためになんとかしたいというパッションで向き合っているということが分かりました。

宮本：日向市様には多くの学習データを提供していただき、フィードバックレビューにも協力していただきました。この場を借りて感謝申し上げます。日向市様のモデルは全国の市町村や民間企業でも活用できるエッセンスが多く含まれているので、広く使っていただきたいです。

松田：データを整備し活用することが重要であり、これが事業展開や拡大に役立つと考えています。データ整備はAI時代到来の前から重要な要素であり、今後もその重要性は変わりません。

桜井：生成AIの導入に、一歩踏み出せないお客さまに何かアドバイスをお願いします。

松田：AI導入時には、省人化や業務効率化、生産性向上といった指標に基づくROIを考慮する必要がありますが、ROIに過度に依存せず導入の意思決定をすることも重要だと思います。個人的にAIを使う人も増え、ビジネスシーンでは仕事に役立つツールとして認識されています。生成AIの検討は、未整備のデータを活用するアクションを促すことにもつながります。

桜井：ソフトバンクの優位性や強みとは、なんだと思いますか？

松田：我々は中立的な立場でLLMの良さを評価し、選定できる経験と能力を兼ね備えています。特定のLLMに限定せず、最新の技術や知見を迅速に取り入れられる点が強みです。

宮本：営業、エンジニア、バックオフィスが一体となってお客さまに対応することです。営業はお客様のことを思う想いがすごく強く、我々エンジニアはその思いに対してどう実現できるかを考え、お客さまとコミュニケーションをとります。この連携が我々の最大の強みだと考えています。

桜井：我々は営業とエンジニアが一丸となり、お客さまごとのベストプラクティス環境をご提供していきます。

最後に桜井は、「生成AIの関連ソリューションを全方位からサポートしていきます」と締めくくりました。

※6：ハルシネーション、または幻覚とは、人工知能によって生成された虚偽または誤解を招く情報を事実として提示する応答を指す

AXインテグレーターとしての新たな歩み

これまで法人事業は、通信コスト削減からスマートデバイスの活用促進、多岐にわたるソリューションでお客さまの課題を解決してきました。そして今、生成AIの到来により「AXインテグレーター」としての新たな挑戦を始めます。今よりもっと、ビジネスシーンに生成AIの活用を浸透させ、これまで人間がしていたことをAIがサポートし、便利で働きやすい環境を整えていくこと。さらに日本が抱える社会課題を、最先端のテクノロジーで解決することが、法人事業の使命です。営業、エンジニア、バックオフィスが一丸となり、ビジネスの未来を共に創り上げるパートナーとして、AIによるトランスフォーメーションを推進していきます。

関連サービス

関連セミナー・イベント