
AIの進化によって、現実世界を認識し自ら判断して行動する「フィジカルAI」が急速に発展、ロボットが人と関わりながら働く未来が現実味を帯びつつあります。ソフトバンクニュースでは、AIを適切に使っていくためのガバナンス(管理・統治の仕組み)について、ソフトバンクの「AI倫理委員会」の社外委員を招いて、シリーズでお伝えしています。今回は、AIガバナンスを専門とする吉永京子さんをお迎えし、ソフトバンクのAIガバナンス最高責任者の飯田唯史と「ヒューマノイドとAIガバナンス」をテーマに対談。人型ロボットがもたらす依存や、愛着あるAIのサービス終了という、これまで誰も経験してこなかった新たなリスクと、社会実装の在り方について語り合いました。
目次

話を聞いた人
慶應義塾大学大学院政策・メディア研究科 特任准教授
吉永 京子(よしなが・きょうこ)さん
東京大学大学院法学政治学研究科修士課程修了後、大手シンクタンクにて約20年、情報通信・メディア・サイバーセキュリティ分野の政策支援に取り組み、AI開発部門のリスク管理も担当。米イェール大学ロースクールInformation Society Project (ISP)日本人初のVisiting Fellowを経て、現在はジョージタウン大学ロースクールInstitute for Technology Law & PolicyのAffiliate Scholar、OECD-GPAI Expert。AIガバナンス・AI倫理を専門とし、官公庁のAI関連有識者委員を務める。近年は、ヒューマノイドなど身体を持つAIの倫理・ガバナンスも研究。ソフトバンク「AI倫理委員会」社外有識者委員。

話を聞いた人
ソフトバンク株式会社 常務執行役員 兼 CISO 兼 CRO 兼 AIガバナンス最高責任者
飯田 唯史(いいだ・ただし)
ソフトバンクおよび同社グループ企業のサイバーセキュリティやリスクマネジメントを統括するとともに、AI倫理委員長として、社内のAI活用におけるガバナンス強化に取り組む。
人手不足の解消に、ヒューマノイドは本当に必要?

飯田 「今回のテーマを伺って、私自身が『ロボット=人型』という固定観念に縛られていたことにハッとさせられました。ソフトバンクはPepperという人型ロボットを世に送り出してきた当事者ということもあり、私自身、ロボットとは人間の形をしているものだと、その前提を疑ったことがなかったんです。子どもの頃に見た特撮ヒーローや猫型ロボットの影響からか、大人になって工場で稼働するアーム型ロボットを見たときには、『これがロボット?』と違和感を覚えたほどでした。
そもそも吉永先生が、ヒューマノイドというテーマに着目された背景を伺えますか」

吉永さん 「私はこれまでAIガバナンスやAI倫理を研究してきましたが、生成AIの次に大きな課題になるのが、AIが身体を持って現実世界で動く『フィジカルAI』だと考えています。中でも人間に近い姿をしたヒューマノイドは、これまでにない問いを投げかけています。こうした問題をガバナンスの観点から考えたいと思い、近年研究を進めています。最近では、ロボット倫理に関する国際会議でもこの問題を取り上げる機会がありました。
現在、生成AIの進化によって、フィジカルAIへの投資は急増しています。2025年のヒューマノイド関連投資は約61億ドルに上り、市場は今後大きく拡大するとも予測されています。こうした中、企業がヒューマノイドの導入を検討する理由の多くは、人手不足の解消や重量物の運搬といった機能的なものです。
ただ、ここで私が問いたいのは、その仕事をするために、本当に人型である必要があるのかということです。ヒューマノイドの開発や導入への期待が高まっていることと、あらゆる用途で人型が最適であることは別の問題です。『人間の仕事をロボットに任せること』と、『そのロボットを人型にすること』は、分けて考える必要があります」
飯田 「その点は、私たちがお客さまと接する中でも実感しています。『フィジカルAI』という言葉が出てきた当初、私自身は、工場のアーム型ロボットにAIが載って賢くなる、というイメージで捉えていました。実際にお客さまのご要望を伺うと、『人型が欲しい』という声はあまり聞かれません。多くは『目的に応じたロボットに、これまでより高度で繊細な動きをしてほしい』というものです」
吉永さん 「階段やドアなど、人間向けに設計された施設や建物内で活動するには、人型であることに一定の合理性があります。一方で、単に物を運ぶだけなら、人型よりも車輪型のほうがはるかに効率的で安定していますよね」
飯田 「何を目的にするのかによって、形状は見直されるべきだということですね。とある人気のロボットアニメで、ロボット同士が宇宙空間でサーベルを交えて格闘するシーンが、私は昔から大好きでした。ただ、改めて考えてみると、広大な宇宙空間で運用される兵器が、そもそも人型である必然性はないんですよね」
人型デザインが生む愛着と過度な依存

飯田 「とはいえ、人間はAIに対してフレンドリーな姿を求めてしまう傾向もあるように思います。映画『2001年宇宙の旅』に登場するAIの『HAL 9000』は顔がなく、赤いレンズが光るだけです。人間のように穏やかに話すのですが、表情がないためかえって距離が縮まらず、非常に不気味でした。
そう考えると、私たちは無意識のうちにAIにも顔や表情を求めてしまうのかもしれません。もし普段利用している生成AIに人間の顔がついたら、一気に心理的な距離が縮まる気がします」
吉永さん 「人間には、人間でないものにも意図や人格を投影して『擬人化』する傾向があります。ロボットに顔があり、こちらを見て人間らしく動くと、私たちはそれを単なる道具ではなく、あたかも社会的な存在であるかのように捉え、反応するようになります。
さらに現在のAIは、本当に感情を持っているわけではなくても、『それは大変でしたね』と、まるで人間の気持ちに寄り添っているかのように返すことができます」
飯田 「確かに、生成AIを利用していると、本当に感情があるように見えてしまうときがありますよね」
吉永さん 「この感情的な応答が人型の身体と組み合わさると、人間の側には『このAIは自分を分かってくれている』という錯覚が生まれます。毎日のように悩みを相談し、自分に寄り添うような応答を受け続けることで、強い愛着が生まれ、過度な心理的依存につながる可能性もあります」
飯田 「日本では昔からモノに魂を見出すアニミズム的な文化があり、ロボットを友人のように描くアニメも多いですよね。そうした土壌も関係しているのでしょうか」
吉永さん 「文化的背景が受容に影響する可能性はあります。ただ、『アニミズム的な文化があるから人型ロボットを受け入れやすい』と単純化することには慎重であるべきです。
ガバナンスとして重要なのは、『AIに依存してはいけない』と利用者に自己責任を求めるのではなく、『どのようなデザインが、人間の愛着や依存につながり得るのか』を、開発側が設計段階から意識することです」
飯田 「作り手の立場からすると、そこは本当に難しいところです。同じデザインでも、フレンドリーだと感じる人もいれば、威圧的だ、距離が近すぎると感じる人もいる。万人に受け入れられる形を見つけるのは簡単ではありません。そうした違いも踏まえながら、どの程度の愛着や依存が生まれ得るのかを、つくる段階から考えておく必要がある。これは、私たちにとって非常に実践的な問いだと受け止めています」
身体と関係性。ヒューマノイドをめぐる2つのリスク

飯田 「画面の中でやり取りする生成AIと比べて、身体を持つAI、特にヒューマノイドならではの固有のリスクはあるのでしょうか」
吉永さん 「リスクは大きく二つに分けて考える必要があります。一つは、身体を持つことによって生じる物理的なリスクです。チャットボットが間違った回答をするのと、身体を持つAIが誤動作して人や物に直接影響を与えるのとでは、リスクの性質が異なります。
2022年にモスクワのチェス大会で、ロボットアームが、対局中だった少年の指を駒と取り違えてつかみ、骨折させてしまう事故がありました。これはヒューマノイドの事例ではありませんが、身体を持つロボットの物理的リスクを示す例です。人間であれば、子どもが痛がれば反射的に手を離しますが、ロボットがそう判断するとは限りません。フィジカルAIには、物理的な安全性や制御可能性、緊急停止の仕組みが不可欠です」
飯田 「それに加えて、人間に似ていることから生じる、もう一つのリスクがあるということですね」
吉永さん 「はい。私はそれを『関係性のライフサイクルに伴うリスク』と呼んでいます。
前提として、人がロボットに愛着を持つこと自体は悪いことではありません。高齢者のケアや孤独の緩和では、むしろプラスに働くこともあります。問題は、その関係が深まったとき、人間同士の関係とは構造が根本的に異なることです。
ロボットは人間同士の関係のように、双方が成長し、関係そのものが変化していくわけではありません。一方で、ロボットには技術やサービスとしてのライフサイクルがあります。故障するかもしれない、サービスが終了するかもしれない、メーカーが事業から撤退するかもしれない。つまり、人間の側にはロボットへの愛着や依存が生まれ得る一方で、その関係の持続は、利用者自身ではコントロールできない技術的・商業的な事情や、サービスを提供する第三者の判断にも左右されます。こうした人間の愛着や依存と、ロボットの技術的・商業的なライフサイクルとの間にある非対称性が、私が『関係性のライフサイクルに伴うリスク』と呼んでいるものの一つです」
飯田 「人と関係を築くAIは、関係が生まれる瞬間だけでなく、その後の変化や関係が終わるときまで見据えて設計する必要がある、と」
吉永さん 「そのとおりです。そして、この構造がとりわけ深刻な形で現れるのが、子どもや、亡くなった方を模したケースです。
例えば、スティーブン・スピルバーグの映画『A.I.』(2001)には、人間の母親を愛するように設計された子ども型ロボットが登場します。本来、親子関係は、子どもが成長し、やがて自立していくことで変化していくものです。しかし、設計次第で永遠に同じ年齢のままでいる子ども型AIは、その変化していくはずの関係を人工的に固定し、歪めてしまう可能性がある。私が子どもの姿をしたヒューマノイドに特に注意が必要だと考えるのは、そのためです」

飯田 「亡くなった方をAIで再現するケースもよく見られますよね。数年前、AIで美空ひばりさんを再現したテレビ番組の企画が話題になりましたが、吉永先生はどのようにご覧になりましたか?」
吉永さん 「あの事例は私の共著書『責任あるAIとルール』(金融財政事情研究会)でも触れたのですが、美空ひばりさんのファンから絶賛された一方で、『少し気味が悪い』と感じた人もいました。人間に似せていくと、ある点までは好感が増すのに、あまりに似すぎると一転して違和感を覚えてしまう、いわゆる『不気味の谷』と呼ばれる現象です。
遺族の同意があり、生前の言葉や歌声をそのまま再現するだけであれば、問題は比較的小さいかもしれません。しかし今後、AI技術がさらに進み、亡くなった方のAIアバターと自由に対話ができるようになると、別の問題が生じます」
飯田 「本人が言っていないことまでAIが話してしまうという問題ですね」
吉永さん 「そうです。時代背景の違う現代の問いに対し、本人が生前なら決して言わなかったような答えを返しかねません。亡くなった方の尊厳やアイデンティティ、生前の意思をどう守るのか。こうした問題が生じるため、私は子ども型や実在する人物の再現は、原則として強く制限すべき領域だと考えています。
そして、もう一つ、将来的な論点として、人工意識についても考えておく必要があります。現在のAIに、人間と同じ意味での意識や感情はありません。一方で、将来、より高度なAIが何らかの意識を持ちうるのかという問題については、すでに研究が始まっています。映画『A.I.』の子ども型ロボットは、最終的に人間に捨てられても、人間の母親の愛情を求め続けます。その姿を見て、私たちは『かわいそうだ』と感じます。映画ではロボット自身も苦痛や悲しみを感じているかのように描かれていますが、現実のAIが、人間のようにそうした感情を持っているわけではありません。
ただ、もし将来、映画のように人工システムに何らかの意識が生じ得るのであれば、問題は人間側だけではなくなります。「人間がAIに依存すること」だけではなく、『人間はAIに何をしてよいのか』という逆方向の問いも、AIガバナンスの問題になる可能性があります。これは現時点で答えを出すべき問題ではありませんが、長期的なAIガバナンスでは視野に入れておくべき問いだと思っています」
ロボットにも「お葬式」?

飯田 「人とロボットの関係性のライフサイクルという視点でいうと、たとえば、長年使った携帯電話に強い愛着を持ち、手放せないお客さまの葛藤に何度も向き合ってきました。これがもし、毎日を共にしたヒューマノイドだったらどうなるか。お客さまにとっては大事な『友だち』だったり『相棒』だったりするわけです。ゴミ処理場でスクラップにされる姿など、絶対に耐えられないはずです。(人型ではない)自分の愛車を手放す時ですら寂しい思いをしますので、ましてヒューマノイドとの別れは、そう単純ではないはずです。私たちはサービスを始めるときから終わりを設計し、丁重に見送るプロセス——いわば『ロボットのお葬式』のようなセレモニーまで、責任を持って用意する必要があるのだと気付かされました」
吉永さん 「そうですね。そうした『サービス終了式』のような区切りを設けることも、利用者がロボットとの関係を終えることを受け入れ、納得して手放すための一つの方法になるかもしれません」
人型をデフォルトにしない、3段階の基準

飯田 「ヒューマノイドを社会実装していく際、企業はどのような基準でガバナンスを効かせるべきでしょうか」
吉永さん 「企業は「このロボットは安全に動くか」だけでなく、『なぜ人型にするのか』というデザインそのものの正当性を問う必要があります。これは製品完成後に法務部門がチェックするだけではなく、企画から終了までのプロダクトライフサイクル全体に組み込むべきものです。私は、大きく3段階で判断すべきだと考えています。
- そもそもその用途に人型が必要か(人型をデフォルトにせず、その理由を説明できること)
- 人型にするなら、どこまで人間に似せる必要があるか(Pepperのように、明らかにロボットとわかるデザインを選択することも重要)
- そもそも認めるべきではない、あるいは強く制限すべきデザインではないか(子ども型や実在する人物に酷似したデザインなど)
第2段階の「どこまで似せるか」という程度の見極めも重要です。介護やコミュニケーション支援の現場では、人間らしい特徴が安心感につながる場合があります。一方で、高齢者向けの研究では、非常に人間らしいデザインよりも、自然で控えめな適度な擬人化のほうが好まれるケースも報告されています。
ましてや入浴や排泄の介助など、人間の尊厳が強く関わるプライベートな場面において、人間そっくりのロボットに介助されることを利用者が本当に望むのかは、立ち止まって考えるべきです。『何%似せればよい』という一律の答えはなく、誰が、どんな場面で、何のために使うかで判断しなければなりません」
飯田 「おっしゃるとおり、最終的にそれを受け入れるかどうかを決めるのは、メディアでも世間でもなく、利用者です。今回いただいた気付きを、今後の開発や企画にしっかりと生かしていきたいと思います」
リスクと向き合い、人間を中心に据える
飯田 「ただ、未知のリスクがあるからといって開発を止めることは、ソフトバンクらしくありません。リスクとは金融の世界でいう『不確実性』です。すべてのリスクを事前に回避しようとすれば『何もしない』という結論になってしまいます。
AIは同じ入力でも異なる出力を返す確率論的な技術であり、それが身体を持つフィジカルAIとなれば、不確実性は指数関数的に大きくなります。だからこそ、私たちはファーストペンギンとして果敢に挑みつつ、万が一滑って転んだときにどう立ち上がるか、つまり『レジリエンシー(回復力)』をセットで設計することが、次に問われる重要なテーマだと思っています」
吉永さん 「私が以前暮らしていた米国の強みの一つは、まさに『失敗を恐れず、試行錯誤しながらその場で問題を解決し、前に進む』ところにあります。日本企業はリスクテイクに慎重になりがちですが、AI時代においては、未知のリスクを把握しつつも柔軟に対応し、イノベーションを起こし続ける姿勢が非常に重要です。ソフトバンクには、ぜひその最前線を切り拓いてほしいですね。
AI倫理やガバナンスは、決してイノベーションを止めるためのブレーキではありません。新しい技術を社会に受け入れられる形で、持続的に発展させていくためのものです。
技術的に『人型にできるからつくる』『人間に似せられるから似せる』のではなく、『なぜ人型にするのか』『人間の尊厳や自律性をどう守るのか』を問う。技術に人間を合わせるのではなく、人間を中心に技術のあり方を考えていくことが、これからのフィジカルAI社会においてますます重要になると考えています」
飯田 「吉永先生と対話して、ヒューマノイドを社会に出すことの責任に改めて気付かされました。関係が始まるときだけでなく、終わるときのプロセスまで見据える——この関係性のライフサイクルという視点は、まさに目から鱗でした。私たちが大切にしたいのは、人型にできるからつくるのではなく、その形が本当に必要かを一つひとつ見極めることです。そして、未知のリスクがあるからといって挑戦を止めるのではなく、起こり得るリスクを見極め、問題が起きたときにも柔軟に対応できる仕組みをあらかじめ考えておく。技術の進化と、今回議論したAI倫理・ガバナンス。この2つを両輪として、『人間中心のフィジカルAI社会』の実現に向けて挑戦を続けていきたいと思います」

専門家と語る、AIガバナンス
AIを適切に使っていくためのガバナンス(管理・統治の仕組み)について、ソフトバンクの「AI倫理委員会」の社外委員をお招きし、シリーズでお伝えしていきます。過去の記事はこちらからご覧いただけます。
(掲載日:2026年10月7日)
写真:杉﨑恭一
文:周藤瞳美
編集:エクスライト
AI倫理・ガバナンス

ソフトバンクは、AIの開発・運用における倫理とガバナンスの強化を継続的に推進し、責任あるAIの実現に取り組んでいます。





