業務プロセスへ生成AIを組み込む

自動車保険をはじめとした損害保険ビジネスを中心に、業務プロセスにおける徹底的なデジタル化・業務効率化を追求している損保ジャパン。同社では2023年の早くから生成AIに注目し、社内でテスト環境を構築。リスク調査やガイドライン策定など、積極的に生成AI活用に向けた取り組みを進めてきました。

「生成AIの社内展開の方針は、大きく分けて２つあります。

１つ目は、『全社員が生成AIを使える状態を作る』ことです。社内で利用するにあたっては、セキュリティ面などクリアしなければいけない課題がいくつかありましたが、弊社ではAzure OpenAI ServiceのChatGPTを使って、セキュアな環境の中で利用できる生成AIチャットシステムを構築し、昨年度に全社リリースを完了しました。

２つ目は、『既存業務プロセスに生成AIを組み込む』ことです。私が所属するDX推進部では、各事業部が抱えている課題を吸い上げて、システム開発の企画推進や実際の開発まで行っています。その取り組みの中に生成AIを使った開発案件がいくつかあり、特にいま大きなスコープとなっているのが積年の課題である『社内照会業務の効率化』です」（楠木氏）

代理店からの問い合わせを引き受ける営業店や、営業店からの問い合わせを引き受ける本社事業部の問い合わせ対応など、社内における照会対応業務は多岐に渡り、常に多忙な状態に置かれています。社内FAQシステムも展開されていますが、新しい商品や改定が出るたびに新しいQ&A・内容のメンテナンスをしなければならず、運用負荷が高くなっています。そうした課題を解決する手段として、生成AIが活用できないかと立ち上がったのが、社内データを参照した生成AIチャットシステム（以下、照会システム）の開発でした。

ChatGPTのモデルには、保険業界特有の用語や社内独自の情報は含まれていないため、社内データとの連携が欠かせません。照会システムを構成するLLMで社内データを参照するためには、RAGと呼ばれる技術を活用します。RAGは、外部データベースから関連する情報を取得し、その情報をLLMに渡して回答を生成する技術です。損保ジャパンでは、このRAGの構築を進めていましたが、ある課題が表面化したと言います。

RAGの仕組み

「まず手元にあるさまざまな保険種目の規定集をLLMに取り込んでみました。実際に営業店から本社に飛んできている質問に対してうまく回答できているのか、あらゆる質問を投げて回答精度の検証を行いましたが、かなりの確率でハルシネーション※3が起きていました。

　その原因の一部を紐解いてみると、取り込んでいる規定集自体が『人が読む』ことを前提に作成されているため、図表やフローチャートのような視覚的に情報を伝える表現が多く、そのままOCR処理をかけてRAGにデータを渡しても、正しい箇所を参照できていないことが分かりました。該当箇所には段ズレや文字化けが発生していて、回答に必要な文字情報が不足している状態でした」（楠木氏）

膨大なマニュアルを手作業で構造化

RAGの検索精度を上げる手段の一つとして、OCRで読み取ったテキストデータをLLMが正しく読み取れるように構造化※4することが有効であると分かりました。しかし、生成AIが世に出始めたばかりで何が正解か分からない中、手探りで進めることに不安を感じたと楠木氏は語ります。