AIの進化は目覚ましく、私たちの仕事や暮らしを便利なものにしています。ソフトバンクニュースでは、AIを適切に使っていくためのガバナンス（管理・統治の仕組み）について、ソフトバンクの「AI倫理委員会」の社外委員をお招きし、シリーズでお伝えしていきます。今回は、AIセキュリティの専門家である佐久間淳さんをお迎えし、ソフトバンクの最高情報セキュリティ責任者（CISO）の飯田唯史と「AIとセキュリティ」をテーマに対談。AI時代のセキュリティの考え方や、安心してAIを使っていくために必要なことを語り合いました。
目次
お話を聞いた人
東京科学大学 情報理工学院 教授／理化学研究所 革新知能統合研究センター 人工知能セキュリティ・プライバシーチーム チームディレクター
佐久間 淳（さくま・じゅん）さん
東京工業大学（現：東京科学大学）大学院博士後期課程修了後、日本IBM東京基礎研究所、筑波大学大学院教授などを経て現職。ソフトバンク「AI倫理委員会」社外有識者委員。専門はAIセキュリティ、データプライバシー、機械学習と人工知能の信頼性。
お話を聞いた人
ソフトバンク株式会社 常務執行役員 兼CISO 兼 CRO兼 AIガバナンス最高責任者
飯田 唯史（いいだ・ただし）
ソフトバンクおよび同社グループ企業のサイバーセキュリティやリスクマネジメントを統括するとともに、AI倫理委員長として、社内のAI活用におけるガバナンス強化に取り組む。
AIが便利になるほど、不安やリスクも生まれる
飯田 AIが急速に普及する中で、ユーザーはAI利用を通じて発生し得る情報漏えいや悪用といったセキュリティのリスクに漠然とした不安を感じています。専門家のお立場から、現在の状況をどうご覧になっていますか。
佐久間さん AIはここ1、2年で多くの人が毎日のように使うものになりました。それに伴い、人々の不安も、漠然としたものからより具体的なものへと変化しているように感じます。特にChatGPTのような対話型AIサービスをディープに使っている人は、自分の情報や知りたい情報をAIに渡せば渡すほどリッチな答えが返ってくるため、便利さを感じる一方で、「本当にこの情報を渡していいのか」「会社のポリシーに違反していないか」と気にしながら使うケースが増えているのではないでしょうか。
飯田 特にどのようなリスクに注意すべきでしょうか。
佐久間さん AIによる情報漏えいのリスクは、大きく2つに分けられます。1つは「AI自体が学習の過程で機密情報を覚えてしまい、それが何らかの形で表出してしまうリスク」。もう1つは、人間が「本来AIに与えるべきではない情報を入力してしまうことによるリスク」です。前者の対策については研究が進められていますが、正直なところユーザー自身にできることはあまりありません。一方で後者のリスクは人間のミスによるものですから、これまでの情報システムにおける機密情報の取り扱いと同じように、運用ルールやリテラシーで対策できる部分が大きいです。
飯田 確かにそうですね。これまでのITシステムは、インプットしたことに対して、どのようなアウトプットが返ってくるかが明確でした。しかし、AIは同じインプット（プロンプト）でも時間や人、状況などによってアウトプット（AIからの回答）が異なります。また、うっかりAIにインプットしてしまった情報がどこでどう使われるか、すぐには確かめようがありません。不用意に入れてしまったデータは二度と取り返せない。そこに大きなリスクを感じます。
佐久間さん おっしゃるとおりです。ブラックボックスなモデルを使う以上、外のシステムに情報を渡した瞬間に、手元を離れるという覚悟が必要です。ソフトバンクのような大きな企業であれば、自社で機密情報を扱える安全な環境を用意するといったアプローチが重要になるでしょう。
飯田 当社でも、業務においては非常に厳格な管理のもとでエンタープライズ版（最上位性能、高セキュリティ）のAIサービスを利用しています。また、他国のAIサービスに依存せず、お客さまのデータや自社のデータを国内で安全に処理できるよう、国産生成AIの開発にも注力しています。これは、自国・自社のデータを独立して管理・運用する、いわゆる「ソブリンAI（AI主権）」の構築にもつながります。こうした取り組みを本気で展開していかなければ、社会の不安は本質的には払拭できないと考えています。
マルチモーダル化・自律化するAIと "ブレーキ" の重要性
AIの進化が生む新たなリスク
飯田 テキストだけでなく画像や音声を扱う「マルチモーダルAI」や、自律的に動く「エージェンティックAI」、さらには物理世界に影響を及ぼす「フィジカルAI」なども登場しています。こうした技術の進化に伴う新たな懸念があるとすれば、それはどういったものでしょうか。
佐久間さん マルチモーダルAIの場合は、従来のようにテキストを打ち込むだけではなく、スマートスピーカーやカメラなどいろいろな情報源が能動的にデータを取ってくることになるので、自分のどんな情報がAIに知られているのか、想像がつきにくくなります。エージェンティックAIは、システムを直接動かせるため、勝手に決済をして金銭的な被害を出すといったことも起こり得るでしょう。それをどうコントロールするのかは、技術的にもまだ明確な解がなく、非常に重要な研究課題です。さらに、自動運転車やヒューマノイドのようなフィジカルAIが普及すれば、AIの誤作動がデジタルな被害にとどまらず、現実世界での事故に直結する可能性も出てきます。
安心して使ってもらうために、サービス提供者が担う責任
飯田 ユーザー側でそういうリスクを気にしながら、AI関連サービスを使っていくというのはなかなかハードルが高いですよね。
佐久間さん そういう中で安心して使ってもらうためには、サービス提供者側が先回りしてプライバシー保護、セキュリティ対策を含むAIガバナンスに取り組むことが必要です。ユーザー側がサービスごとに「どんなリスクがあり、どこに気をつけるべきか」を判断するというのは現実的ではありません。だからこそ、「この会社のサービスなら安心できる」という信頼やブランドを築けるかが、AI時代にはますます重要になると思います。
AIの安全な社会実装に "ブレーキ" は欠かせない
飯田 それは大事な視点ですね。次に、佐久間先生のご研究についてもお伺いさせてください。AIのリスクやセキュリティを長年研究されていますが、このような研究に取り組んでおられる背景をお聞かせいただけますでしょうか。
佐久間さん AIの研究者は「どれだけ性能を高めるか」「どれだけできることを増やすか」という、いわば車の"アクセル"の研究に興味を持つ人が多いのですが、私は昔から、プライバシーやセキュリティといった"ブレーキ"をかけるような研究に興味がありました。「どのくらいAIの性能を向上させたか」という研究は、評価の指標が比較的分かりやすいのですが、「AIがおかしなことをしていないか」を定義し、測ることは簡単ではありません。その難しさに惹かれてきたところがあります。
飯田 現在は、具体的にどのようなテーマ、どのような方法で進められているのでしょうか。
佐久間さん 今メインでやっているのは、言語モデルが有害なリクエストをきちんと拒絶できるか、個人情報を漏らさないかといったことを検証する「レッドチーミング」の手法。攻撃者の視点になって弱点をあぶり出し、安全性を高めていく取り組みです。それに加えて、最近興味を持っているのは、AIにおける「サプライチェーンリスク」への対応。近年は企業がオープンソース（無償公開）のAIモデルを自社向けにカスタマイズして使うケースが増えていますが、その際、元のモデルが持っていた脆弱性が、カスタマイズ後のモデルにそのまま継承されてしまう問題があり、これをどう防ぐかを研究しています。
飯田 非常に現実的で重要な課題ですね。
佐久間さん それから、最近手をつけ始めたのは、フィジカルAIへの対策です。サイバーとフィジカルではリスクも異なるので、実際どのようなリスクがあるのか、どんなことに気をつけなければいけないのか、というところから検討しています。また、「攻撃の意欲を失わせるアプローチ」も重要だと考えています。サイバーセキュリティは攻撃者と防御者のいたちごっこになりがちですが、それでは出口がありません。そこで、ゲーム理論（複数の主体が関わる中で、お互いがどのように意思決定するか分析・予測する理論）の考え方を取り入れて、「攻撃者がどんなに労力をかけても、この程度のメリットしか得られない」という状態をどう作るか研究しています。
飯田 そうした"ブレーキ"の技術は、AIを安全に社会実装する上で欠かせないものになりますね。ビジネスの現場では、"ブレーキ"、例えばセキュリティに費やすお金は「前向きな投資なのか、単なるコストなのか」というジレンマがありました。でも、どんなに速く走れる車でも、ブレーキがなければお客さまに提供できる品質を満たしているとは言えません。誰もブレーキのない車に乗りたいとは思わないですから。
佐久間さん 同感です。ちゃんと効く"ブレーキ"がないAIは恐ろしくて実社会では使えない。セキュリティは企業のミッションだと思うんです。AIが普及するほど、その重要性は高まっていくはずです。
リスクも含め、誠実に伝える姿勢が信頼をつくる
AI倫理委員会が果たす役割と透明性の追求
飯田 ソフトバンクではAI倫理委員会を通じて専門家の皆さまからアドバイスをいただいています。佐久間先生から見て、当社の取り組みはいかがでしょうか。
佐久間さん ソフトバンクの「AI倫理ポリシー」のなかで、私が特に素晴らしいと感じたのは「透明性と説明責任の追求」という項目です。そこには「私たちは、AIの判断結果をどのように利用しているかについて透明性をもって説明できるよう努力する」と記載されています。AIはブラックボックスな部分も多く、発展のスピードも速いため、企業が100%の安全を保証することは困難です。だからこそ、リスクも含めて誠実に伝えようとする姿勢を明記している点は、非常に重要だと評価しています。
飯田 ありがとうございます。お客さまに安心・安全に使っていただくための努力を組織として続けていきたいと考えています。
佐久間さん AI倫理委員会は、私のような技術畑の人間だけではなく、さまざまな立場の方が参加されていますが、皆さん非常に積極的に発言されていて、実質的な議論がなされているという印象です。AI倫理は、「どこに問題があるか」が浮き彫りになりにくい分野です。だからこそ、多様な立場からの意見があることで、問題の形が見えてくる。委員会には、そのために必要なメンバーがしっかりと揃っていると感じました。
作って使う、リテラシー向上の "原体験"
飯田 私たちも皆さんとの議論を通じて気づくことが本当にたくさんあります。一方で、いくら立派な仕組みやルールをつくっても、それを実際に運用し、AIを活用するのは人です。お客さまに提供するサービスはもちろん、社内業務においても、一人ひとりが正しく理解し活用できるようにしていくことが重要だと考えています。
佐久間さん ソフトバンクでは「全社員が1人100個のAIエージェントを作る」という取り組みをされたと伺いました。最初は「すごくぶっ飛んでいるな」と思ったのですが（笑）、これもリテラシー向上施策の一環なのでしょうか。
飯田 そうですね。「頭で考えるだけでなく、作って、使ってみないとAIの世界は分からない。手を動かすことが一番早い」という信念が宮川社長のなかにあったのだと思います 。業務利用はもちろん、例えば社員の個人的な趣味に関するAIエージェントでも構わないので、とにかく作ってみる。そして「今までの仕事が半分の時間で終わった」とか「AI使えばこんなに楽に仕事ができるんだ」というポジティブな驚きを得る。こうした"原体験"があれば、それぞれ自走して活用していくようになります。
佐久間さん 社員のITリテラシーやセキュリティ意識を底上げするうえでも、非常に先見の明があるプロジェクトだと感じました。AIを使い倒すことでリスクが見えてくるし、"ブレーキ"の必要性も実感できるのではないでしょうか。
飯田 組織としてAIを正しく、積極的に使っていくためには、そうした風土づくりと、確固たるガバナンスの両輪が必要です。今後もAI倫理委員の皆さまのお力をお借りしながら、社会に信頼されるAIの社会実装を進めていきます。本日は貴重なお話をありがとうございました。
AI倫理委員会
ソフトバンクがAIを安心・安全に活用するため、2024年4月に設立した社内機関。社外有識者を含む委員で構成され、AIの開発・運用における倫理的課題について議論・提言を行うとともに、国内外の動向を踏まえた知見の共有を通じて、社会に配慮した「責任あるAI」の実践を推進する。
（掲載日：2026年6月25日）
写真：田中舘裕介
文：周藤瞳美
編集：エクスライト
AI倫理・ガバナンス
ソフトバンクは、AIの開発・運用における倫理とガバナンスの強化を継続的に推進し、責任あるAIの実現に取り組んでいます。
