プレスリリース 2024年

AI-RANの統合ソリューション「AITRAS」の
エッジAIサーバーにNVIDIA AI Enterpriseを実装

～AI-RAN上で超低遅延・高セキュリティーなAIアプリケーションの展開が可能に～

2024年11月13日
ソフトバンク株式会社

ソフトバンク株式会社（以下「ソフトバンク」）は、AI-RAN上でのAI（人工知能）アプリケーションの展開を加速させるために、ソフトバンクが現在開発中のAIとRAN（無線アクセスネットワーク）を同じネットワークインフラ上で動作可能にする統合ソリューション「AITRAS（アイトラス）」において、エッジAIサーバーにNVIDIA AI Enterpriseソフトウエアを実装しました。これにより、Open Source Software（OSS）や、パートナー企業の高性能なAI基盤モデルを活用したさまざまなAIアプリケーションを、エッジAIサーバー上で開発・展開することが容易になります。

AITRAS

NVIDIA AI Enterpriseは、AIモデルの学習や推論の高速化、リソースマネジメントなど、企業の大規模言語モデル（LLM）の開発・展開に必要な機能が備わったソフトウエアプラットフォームです。これには、基盤モデルの構築とカスタマイズを行うためのNVIDIA NeMoと、モデルのパフォーマンスを大規模展開向けに最適化するNVIDIA NIM推論マイクロサービスが含まれています。NVIDIA AI Enterpriseを活用することで、モデルの学習や推論の高速化、リソース管理など、企業向けのLLM構築に必要な機能を提供します。これにより、業界や業種に特化した知識を学習させたカスタムLLMや、LLMに企業の独自データなどの外部情報の検索を組み合わせたRetrieval-Augmented Generation（RAG、検索拡張生成）などのAIアプリケーションを、効率的に開発・展開することが可能になります。

ソフトバンクは、「AITRAS」上に実装したNVIDIA AI Enterpriseを活用して、三つのAIアプリケーションを開発しました。

（1）超低遅延LLMを用いたクラウドロボット

LLMをロボットの動作生成に応用することで、未知のケースに対しても柔軟な対応が可能になると期待されています。このとき、ロボット本体の限られた計算リソースを使うよりも、より大きな計算リソースを使える「AITRAS」上でLLMを動かすことで、より柔軟で高度な判断ができるようになります。ソフトバンクは、ロボットに搭載されたセンサー情報を基に、リアルタイムにロボットの動作生成を行う超低遅延LLMを開発しました。開発したモデルを「AITRAS」のエッジAIサーバー上で動作させ、ロボットからのセンサー情報の入力とLLMの制御情報の出力を低遅延で行うことで、外部計算機上のLLMからロボットをリアルタイムで制御することができます。

超低遅延LLMを用いたクラウドロボット

（2）RAG Menu @Edge

企業が持つ独自データを生成AIで活用する手段として、外部データベースを検索して情報を抽出し、それに基づいてLLMに回答させるRAGと呼ばれる技術が注目されています。ソフトバンクは、RAGの利便性や精度を向上させる複数の技術を搭載した、エンタープライズ向けのRAGアプリケーションを開発しました。企業データを連携させることで、最新の社内情報に基づく回答を生成できるため、自社の業務に特化したタスクを生成AIに任せることが可能になります。データは全て「AITRAS」のエッジAIサーバー上でクローズドに処理されるため、インターネット上のクラウドを活用するよりも高いセキュリティー環境で実行することができます。

RAG Menu @Edge

（3）自動運転向け「交通理解マルチモーダルAI」

自動運転の社会実装においては、自動運転車の安全性の向上および運用コストの削減が課題となっています。ソフトバンクは、こうした課題を解決するために、汎用的なAI基盤モデルに、交通教本や交通法規などの日本の交通知識に加え、一般的な走行シーンや予測が困難な走行状況におけるリスクと対処方法を学習させた「交通理解マルチモーダルAI」を開発しました。「AITRAS」のエッジAIサーバー上で、「交通理解マルチモーダルAI」を低遅延かつセキュアにリアルタイムで稼働させることで、自動運転車が予期せぬ事態に直面した際に、交通状況とリスクを分析して車両への適切な指示を生成し、外部から自動運転の遠隔サポートを実現します。詳細は11月5日付のプレスリリース「低遅延なエッジAIサーバーで動作する自動運転向け『交通理解マルチモーダルAI』を開発」をご覧ください。

NVIDIAの通信事業担当シニアバイスプレジデントであるロニー・ヴァシシュタ氏は、次のように述べています。
「AIアプリケーションがさまざまな産業で利用され急速に発展する中で、企業はサービスを迅速かつ安全に、そして効率的にエッジで展開するための革新的な方法が求められています。ソフトバンクの『AITRAS』に実装されたNVIDIA AI Enterpriseは、高性能なAIモデルを開発・展開することを容易にし、自動運転やクラウドロボティクスなどあらゆる用途で活用されるAIアプリケーションに、超低遅延かつ高セキュリティーな環境を提供します」

ソフトバンクの常務執行役員の野田真は、次のように述べています。
「ソフトバンクは、DX（デジタルトランスフォーメーション）による企業や社会の課題解決を目指して、さまざまな活動を推進しています。今回のAI-RANの統合ソリューションへのNVIDIA AI Enterpriseの実装により、さまざまなユースケースに特化したAIアプリケーションの開発が促進され、お客さまのビジネスの可能性を大きく広げることができると期待しています」

今後もソフトバンクは、AI-RAN上でのAIアプリケーションの展開に必要な基盤技術の開発に加え、それらを活用したAIアプリケーションの開発を推進することで、AI-RANによる社会課題の解決に貢献していきます。

  • SoftBankおよびソフトバンクの名称、ロゴは、日本国およびその他の国におけるソフトバンクグループ株式会社の登録商標または商標です。
  • その他、このプレスリリースに記載されている会社名および製品・サービス名は、各社の登録商標または商標です。