”Google Cloud Generative AI Summit
Tokyo ’24 Fall” 参加レポート

ソフトバンクパートナーブースの様子

ソフトバンクもパートナーとしてブースを出展し、独自開発した生成AIソリューションを紹介しました。多くの来場者にお立ち寄りいただき、活発な意見交換やフィードバックをいただくことができました。特に、リアルタイムでのデモンストレーションは高い関心を集め、具体的な導入相談も複数いただきました。

【宮崎市へのVertexAIを活用した生成AI環境導入事例】

Google Next 24 Tokyoのイベントに引き続き、本イベントでも宮崎市様の事例を紹介させていただきました。文書検索機能や音声データからの議事録作成に非常に興味を持たれブースに質問に来られた方がたくさんいらっしゃいました。

なお、ソフトバンクの事例紹介のページにも本事例は取り上げられておりますので、もし興味がございましたらお声掛けいただければと思います。

Google Cloudブース

Google社もブースを出展しており、「GEM子」が紹介されていました。 「GEM子」は「Gemini」を搭載し、3Dキャラクターとこれまで以上に自由に会話ができるサービスです。 従来の事前に定義されたQAベースのサービスとは異なり、より自然な会話が可能です。 親近感のある3Dモデリングや音声合成とAIを組み合わせることで、人間と会話しているような体験をすることができました。 現状では、Speech-To-Textには多少のラグがありますが、将来的にSpeech-To-Speechが一般提供されれば、より人との会話と遜色ない状態になりそうです。

セッションハイライト

会場にて発表されたセッションのうち、いくつか抜粋してサマリをお届けいたします。

公式サイトにて、公開資料は公開されています。また、アーカイブ動画もイベントにエントリーすれば視聴することが可能です。

ソフトバンク：TASUKIセミナー

TASUKI Annotation セッション：
「75% の精度向上実績あり～ソフトバンクが実践を重ねる RAG の精度改善 Tips」

社内データに基づく回答を提供する RAGを構築し業務へ活用範囲を広げたいが、回答精度が課題となり業務への本導入の決断が進まない、こんなご相談が増えています。

そういった課題にソフトバンクは RAG回答精度向上を支援する「TASUKI Annotation」サービスを用意しています。

今回はソフトバンクでの事例の中から、最も精度向上に紐づきやすいデータに基づく有効な改善 Tip など具体的な改善への取組みを、IT 統括 AI 戦略室 AI＆データ事業推進統括部 TASUIKI 事業部 中村友哉が、紹介させていただきました。

立ち見が出るほどの盛況で、世の中のRAG精度向上への関心度の高まりを感じられるセッションでした。

本セッションのアーカイブ動画は公式サイトから視聴できます。RAGの精度改善 Tipsをお知りになりたい方は是非ご確認ください！

簡単に内容を紹介しますと、ソフトバンクではRAGの回答精度を高めるための

• データ改善・検証を伴走支援する「データ構造化代行サービス」
• データの構造化や回答精度評価の作業を自動化する「RAGデータ作成ツール」

を展開しております。

データ構造化代行サービス

お客さまのデータを拝見した上でRAGの回答精度を高めるデータ構造化方法の提案から、実際の構造化作業まで代行することでリソース不足を解決し、生成AI活用を促進するサービスです。

RAGデータ作成ツール

RAGの精度向上に直結するデータを効率的に構造化＆精度評価を行うことができるツールです。

RAGに関する知見がなくても、社内データを活用した精度の高い回答生成を得ることが可能です。

RAGを導入したが思うように精度が出なくてお困りの方は、ぜひソフトバンクにご相談ください。

Google Search でハルシネーションに立ち向かえ！〜Gemini のグラウンディング機能徹底活用
Google Cloud 中井 悦司様

本セッションは、Google CloudのVertex AIを活用した生成AIアプリケーションの構築法を初心者から中級者向けに解説する内容でした。特に、生成AIの「ハルシネーション」問題に焦点が当てられ、その対策として「グラウンディング」が紹介されました。

Google Cloudで提供されているグラウンディング機能として、Google SearchとVertex AI Searchの2つ方法があることが紹介されていました。

Google Searchを利用することで、常に最新の情報を参照し、精度の高い回答を生成できる点がメリットであることが紹介されていました。

また、Vertex AI Searchでは、独自の参照元を引用した回答が可能となり、企業の特定ニーズに応じた高信頼性のアプリケーション構築が期待できます。これらの機能を実装するためのコード例も紹介されており、容易に実装できることが強調されていました。さらに、Vertex AI Searchの「High Fidelityモード」では、生成された回答に信頼スコアと引用文献が付与されるため、情報の正確さを一層高められることが紹介されていました。Vertex AI Searchのグラウンディングを利用する際に、引用文献なしにGeminiが独自に文章を生成してしまうことがありました。この挙動はハルシネーションの温床となりかねないため、この挙動を抑止する「High Fidelityモード」が開発中とのことでした。ビジネスシーンでは、可能な限りハルシネーションを抑止する必要があるため、非常にワクワクする機能の紹介でした。

登壇者である中井様のブログ「Google Searchでハルシネーションに立ち向かえ！〜Geminiのグラウンディング機能徹底活用」では、本セッションで紹介された手法の具体的なコード例や設定手順が詳細に記載されており、実際のプロジェクトでの応用に役立つ内容が満載です。ぜひご覧いただき、Google Searchを使ったグラウンディングを体験していただければと思います。
 

生成 AI による顧客体験の最前線
Goolge Cloud 十見 創 様

Google Cloudの「Customer Engagement Suite」について導入事例を含めて紹介されていました。

Customer Engagement Suiteは、チャットボットに代表される会話型AI製品と、オムニチャネルコンタクトセンターサービス(CCaaS)機能を組み合わせたアプリケーションです。以前はCCAI(Contact Center AI)として知られていましたが、現在はパワーアップして名称も変更されています。Customer Engagement Suiteの軸となる4つの機能に触れながら、カスタマーエクスペリエンスがどのように変革されるのか。「これまで」と「これから」について実際の導入事例を基に触れられています。

詳細は是非本編を見て頂ければと思いますが、軸となる4つの機能は下記となります。

Conversational Agents

　会話型AIエージェントを提供する機能です。生成AIを活用し有人チャットさながらの会話を提供し、オペレーターの負担軽減を目指します。

Agent Assist

　対応中のオペレーターをリアルタイムに近い形で支援する機能です。類似情報の検索や文字起こし、会話の要約、翻訳、スマートリプライ提案を提供することで、オペレーターを支援し業務効率化を目指します。

Conversational Insights（会話データ分析）

　オペレーターとの会話データ分析機能です。コンタクトセンターのパフォーマンスを包括的に可視化し、会話の自動スコアリングで品質管理の強化を支援します。

CCaaS (CCAIP)

　軸となるコンタクトセンター機能です。オムニチャネル対応はもちろん、通話品質をはじめとしたレポート機能も搭載されています。

AIとの親和性が高いコンタクトセンターを例に、今後のカスタマーエクスペリエンスについて簡潔に説明されていました。

チャットボットだけではないAIの利活用という観点でもヒントが得られるとかと思います。是非ご覧ください。

Gemini について全部解説：Gemini の使い方やモデル、プランまで
Google 汪 斯匯様

Gemini入門編として Gemini基盤モデルから Geminiを搭載した各種サービス含め Geminiの全体像と会話型インターフェースとして直接ユーザーに提供している Geminiアプリの活用方法を紹介しています。

他社との違いでは、Geminiアプリは一度にインプットできる情報の量が100万トークン、Google検索との連携によるリアルタイムの反映、各種Googleサービス・Workspaceツールとの連携の3つが挙げられていました。

活用方法の紹介では、日常的なユースケースからビジネス向けの活用まで、より良い回答を得るための方法を具体例を交えながら、どのように活用していくか紹介されています。

RAG の検索品質を高めるハイブリッド検索とエンべディング最適化
Google　佐藤 一憲 様

RAG（Retrieval-Augmented Generation）では、必ずしもベクトル検索が必要ではありませんが、性能向上には役立つことがわかっております。場合によってはハイブリッド検索が最適で、Google Cloudではハイブリッド検索を提供している「Vertex AI Search」を推奨しています。
ただ、RAGのみだとユーザの回答に対して”意味が近い回答しかできない”ことになり、本来のユーザが求めているものが提供できていない場合もあります。

精度向上のためにトークン検索やスパースエンベディングの仕組みを活用し、インデックスにはテキストとセマンティック情報を登録することが効果的で、GoogleのDeepMindチームが開発したデュアルエンコーダモデルにより、事前に質問と回答のペアを生成することで、RAGシステムの精度が向上することを説明されていました。

志摩市様によるピッチコンテスト

Generative AI Summit  Tokyo '24 Fall 内では、第2回生成AI Innovation Awardsの最優秀賞を決める第2回 生成 AI Innovation Awards 熱狂ピッチコンテストが開催されました。

第2回生成AI Innovation Awardsでは、12の企業や自治体から、ハイレベルな生成AI開発事例が発表されました。この発表の中からグーグル・クラウド・ジャパン、ソフトバンクと、「DXと地域活性化を推進するための連携協定」を締結しております志摩市役所様（以下志摩市役所）の発表をピックアップさせていただき、このハイレベルなピッチコンテストの模様をお伝えします。

志摩市役所：Ask サチ子：自治体 DX を加速する内製生成 AI アプリ

志摩市役所は、直感的で分かりやすい内製生成 AI アプリ「Ask サチ子」を開発し、職員の業務効率化を図っています。 Chrome Enterprise や Google Cloud のセキュリティ機能によって安全な AI 活用を実現しています。

生成AIアプリ「サチ子」の特徴と技術的な工夫

生成AIアプリ「サチ子」は、過去の計画書や統計データなどの永続的なナレッジと、職員が参考にする一時的なナレッジを組み合わせて、最適な回答を生成します。これにより、ハルシネーションを抑え、志摩市独自の情報を反映した高精度な文章生成が可能です。また、プロンプト知識がなくても、事前に埋め込まれた5,000文字のプロンプトにより、職員は独自の回答を得ることができます。

堅牢なセキュリティ対策で安心の利用環境を提供

セキュリティ面では、Google Chrome Enterpriseによるプロンプト入力のリアルタイム監視で機密情報の入力を即時検知・ブロックし、GWS認証で適切な権限を持つ職員のみがアクセスできるアクセス制御を実施しています。

「サチ子」を基盤に広がる特化型AIアプリ群の展開

さらに、「サチ子」を基盤として、「創太」（自由な文章作成）、「＠（アット）」（GASコード作成）、「おこし・やす」（音声文字起こし）などの特化型AIアプリの開発も進行中です。「サチ子」がこれらのアプリの基盤となることで、行政業務をサポートするAIエコシステムの拡大が期待されています。

また、志摩市職員がプロンプト知識を持たなくても、志摩市役所独自の回答を生成できるように事前にプロンプトが埋め込まれています。具体的には、Addプロンプト、Baseプロンプト、形式プロンプトを組み合わせた5,000文字の埋め込みプロンプトを使用し、RAGを発展させた手法に近づけることで、志摩市独自の情報に最適化した回答を生成できるようにしているようです。
この埋め込みプロンプトには、複数の質問と回答のペアが含まれており、これにより新しい質問に対してより適切な文脈理解と回答生成が可能になっています。

さらに今後、メニーショットICLの本格的な導入、ナレッジ選択機能の追加など、職員にとってより使いやすい機能の充実を図るための開発を行っているとのことでした。

まとめ

「Google Cloud Generative AI Summit Tokyo ’24 Fall」は、生成AIの現在と未来を感じることができる非常に有意義なイベントでした。最新の技術情報を得るだけでなく、業界の動向や他社の取り組みを知る良い機会となりました。今後もこのようなイベントに積極的に参加し、技術の研鑽とビジネスの拡大に努めてまいります。

最後まで御覧いただき、ありがとうございました。

関連サービス

関連セミナー・イベント