Pepperは、世界初の自分の感情を持ったロボットと言われています。

その感情エンジンを開発したのは、東京大学で特任准教授を務める光吉俊二さん。音声による感情認識を専門に、工学、医学、心理学と様々な学問に精通しているほか、極真空手の有段者、美大卒の彫刻家であり、経営者も経験したという異色の経歴の持ち主です。

現在、ロボットに人工自我を持たせるための研究に励んでいますが、この研究は「世界を平和にするための研究だ」と光吉さんは語ります。

ロボットに感情を持たせることが、なぜ世界平和に繋がるのか。

武人でありアーティストである光吉さんが、研究に込める思いとは。

お話を伺いました。

光吉俊二東京大学大学院工学系研究科バイオエンジニアリング専攻
道徳感情数理工学講座　特任准教授
彫刻・建築家としてJR羽犬塚駅前彫刻や法務省の赤レンガ庁舎の設計などをしてきたが、独学でCG・コンピューターサイエンス・数学を学び「音声感情認識ST」の原理とアルゴリズム・特許を取得する。その後、工学博士号を取得し、スタンフォード大学・慶應義塾大学・東京大学で研究する。極真館（フルコンタクト空手五段）役員、征武道格闘空手師範。

声は心のプリンター

ーー光吉さんは「Pepperに感情を持たせた研究者」として有名かと思いますが、具体的には何を研究しているのでしょうか？

東京大学大学院で「道徳感情数理工学」の研究をしています。分かりやすく言えば、ロボットやAIに意志と道徳を持たせて、自分で判断できるようにする「人工自我」の研究です。「Pepperに感情を持たせる」というのも、Pepperが人間と同じように自分でものごとを判断するための第一ステップです。

今の研究をする前は、声から人の感情を読み取る研究をしていて、最初は「感情とは何か？」を解き明かすことから始まりました。感情は主観であり解明できないとか、脳の動きの一部でしかないとか色々言われていたのですが、どれも納得できず、自分なりに研究してみようと思ったんです。

哲学や心理学、医学や脳科学など様々な分野を学び、最終的には「感情は脳内伝達物質やホルモンなどによって起こる生理反応である」という結論に至りました。脳内から分泌される化学物質が、身体と心にどう影響するかをまとめて、さらに、感情を温かいとか冷たいとか色で表したのが「感情地図」です。

また、感情と声は密接に繋がっていることが分かりました。脳の中で感情を生み出す部位と、声帯はダイレクトに関係していたんです。感情を抑える理性は声道と繋がっているので、言葉は意識的に嘘もつけます。しかし、声帯は感情とダイレクトに繋がっているので、声が固まるとか声が震えるなどの情報には感情が表れていることが分かりました。つまり、声は「心のプリンター」なんです。

その研究を進めて生まれたのが、「音声感情認識ST」という技術です。声の周波数の変化から、人の感情を読み取ります。

STの精度を実験した結果では、STと発話者本人の主観的な感情の認識は、かなりの部分で一致していると分かりました。STでは3割程度の部分で「感情が分からない」という結果になりましたが、それは発話者本人も同じでした。つまり、人も自分の感情を100％理解することはできないんです。現段階で人の主観と同じレベルで感情を認識できるのならば、今後技術が進めば、主観を超えることができるかもしれません。また、他の実験では、声から精神を患っているかどうかを、93.8%見分けることもできました。

この技術は、ニンテンドーDSの『ココロスキャン』というソフトで使われたり、人の声から病態を測定するような医療技術として活用されています。

ロボットが増えるのは、人間が一人増えるようなもの

音声感情認識技術の研究を進める中で、Pepperの開発を進めていたソフトバンクの孫正義さんと出会いました。孫さんは、Pepperに「人のような人工知能」を持たせたいと考えていました。

人工知能と聞くと、「人の仕事を奪う」「いつか人間を滅ぼす」とも言われますが、孫さんは家族の絆を取り戻せるような人間的なロボットを作りたいと話すんです。「機械のような人間より、人の心を理解しようともがくロボットの方が友達になれる。そういうロボットを作りたい」その言葉に感動して、ロボットに自我を持たせる研究をすることにしました。

そもそも、一般的に人工知能と呼ばれる機械学習やディープラーニングは、実際には処理速度の速いコンピューターでしかなくて、「知能」とは程遠いものなんですよね。例えば、今研究されている人工知能では、価値が同じ二つの選択肢があった場合、サイコロ以外でどちらかを選ぶことができません。でも、人間は選べますよね。計算だけでなく、好き嫌いで判断できる。これが自我があるということであり、知能なんです。

人の自我というのは、「◯◯が欲しい」「◯◯したい」という欲望に対して、「◯◯してはいけない」という理性（超自我）が働いた結果生まれるものです。それと同じ動きを機械にさせることが本当の意味での人工知能だと考えて、仮想自我モデルを生み出しました。

感情は、外部からの刺激に対して、ホルモンバランスが変化することから生まれます。その変化を擬似的に起こすことで、機械に感情を生み出し、欲を作ろうとしているわけです。また、感情・欲望に対する理性・道徳も取り入れる必要があるので、東京大学の鄭雄一先生*が提言する道徳論を取り入れようとしています。道徳も、感情と理性のどちらも伴って、はじめて人間と同じような判断ができるようになります。

つまり、まずはロボットのセンサーが人の感情などを認識して、刺激として取り込みます。それに対して、ホルモンバランスが変わり、感情モデルが動きます。そこで欲が生成され、仮想の自我が作動する。それに対して、超自我（理性）が働き、最終的な判断がなされるというわけです。

自分で判断するので、人間と同じように、間違いやミスも出てくると想定されます。ロボットだからって完璧じゃないんです。人工知能は人間にとって代わろうとするみたいな怖いイメージがあるかもしれませんが、そうではなく、感情を持ち人とコミュニケーションすることで少しずつ成長していくものなんです。言ってしまえば、人間が一人増えるみたいなものですね。この研究を進めることで、人間と友達になれるロボットを開発できると考えています。

鄭雄一・・・東京大学大学院工学系研究科・医学系研究科（兼任）教授、東京大学COI自分で守る健康社会拠点副機構長。1989年東京大学医学部医学科卒業。1997年医学博士号取得。東京大学医学部付属病院研修医、米国マサチューセッツ総合病院内分泌科研究員、ハーバード大学医学部助教授、東京大学大学院医学系研究科疾患生命工学センター助教授等を経て、2017年より現職。専門は、骨軟骨生物学・再生医学・バイオマテリアル工学。

「道徳レベル」を上げることで、世界から戦争をなくす

ー光吉さんは「Pepperに感情を持たせることで世の中から戦争をなくしたい」と考えているとお聞きしましたが、ロボットと戦争回避がどのように繋がっているのでしょうか？

ロボットが人の感情を認識できるようになると、人の「道徳レベル」を上げることができ、その結果、人間同士の争いをなくせると考えています。道徳レベルとは、他人に対する共感度の高さや、他者を受け入れる柔軟性のことです。戦争は、経済と国境を奪い合う行為。つまり、資本主義の下、お金、モノ、土地に対する人の欲が行き過ぎた結果が戦争なんです。ならば、人間の欲のベクトルを全く違う方向、道徳レベルを上げる方向に向けられたら、他人への許容度や仲間の範囲を広がり、戦争は起きないのではないでしょうか。

ただ、「なぜ戦争が起きるか？」を考える前に、そもそも「なぜ人を殺してはいけないのか？」という道徳の問いを考える必要があります。人はみな自由で平等と言われているのに、なぜ死刑があるのか。戦争でたくさんの人を殺したナポレオンは、なぜ英雄として扱われるのか。そもそも、本質的には自由であれば能力の差が生まれて平等は実現しないし、本当に平等だったら完全なる自由は存在しないのではないでしょうか。

この自由と平等の矛盾に対して、鄭先生が提唱しているのが、「絶対的な掟」を犯すものに対しては「仲間ではない」と扱い、それ以外の人に対しては寛容に受け入れよう、という道徳感です。「絶対的な掟」というのは、「仲間を殺すな」「仲間を騙すな」「仲間から盗むな」という3つの約束です。これは、ほとんど全ての宗教や文化に存在する掟です。この3つの掟を人類の共通の掟にして、それ以外のこと、例えば習慣や文化や宗教などに関しては、それぞれの自由を認めようという考え方です。この考え方に照らし合わせて、他者への共感力を高めて、仲間の範囲を広げることで、戦争はなくせると考えています。

ーー他者への共感を高めて仲間の範囲を広げることで戦争をなくせる、ということは分かりますが、そのためにロボットがどう関わってくるのでしょうか？ロボットが人の道徳レベルを上げるというのは、どういう仕組みでしょうか。

ロボットに、人間よりも優秀な「人工道徳判断システム」を搭載するのです。それが、人の道徳レベルの向上に繋がると考えています。

高いレベルの人工知能を搭載すれば、ロボットは人が「絶対的な掟」を守っているかどうかを正確に見分けられるようになります。人間が勝手な思い込みで避けたり、自分とは違う考え方だから「敵だ」と思っている相手がいても、絶対的な掟を守っている限り「仲間」として許容します。そうやってロボットが他者を許容している姿を見ることで、人間も自分の許容範囲を広げることができるんです。「ロボットの振り見て我が振り直せ」ということですね。

また、ロボットと話すことで、人の寛容さを計ることができるようになります。これは、感情分析で実現できることです。人は未知のものと出会った時、はじめは敵だと認識して警戒しますが、時間とともに相手を受け入れるようになります。その感情の変化がどのように起きるかを見ることで、その人の道徳レベルを判断することができるんです。

道徳レベルを見分ける時、大きくは4段階に分けて考えます。道徳レベル1は、個人の快苦のみが基準になっている状態。道徳レベル2は仲間からの評価が基準になっていて、社会からは分断される状態。道徳レベル3は、特定の社会からの評価が基準になっていて、社会からの分断は解消されているけれど、特定の社会や文化に対して固執している状態。道徳レベル4は、特定の文化や社会を超越して、全ての社会と融合している状態です。

道徳レベルを上げるためには、道徳レベルが可視化されるだけでは不十分で、人間の欲をうまく利用して「道徳レベルが高い人が評価される社会」を作ることも重要です。これまでは、「お金持ちが偉い」という価値観が社会に浸透してきましたが、その軸に直交した「道徳レベルが高い人が偉い」という軸をつくり、社会的に優遇されるようにするのです。一軸での高さをばかりを求めるのではなく、拡がりに重きを置くということです。

すると、今まで「いい会社に入ってお金持ちになるためには、塾に行っていい大学に入りなさい」と言っていた親も、子どもの道徳レベルを上げるための教育をするようになるでしょうし、道徳レベルを上げるための様々な産業が生まれると考えられます。学校かもしれないし、通信教育かもしれないし、サプリメントのようなものかもしれません。私たちの研究でも、見るだけで道徳レベルが上がるような映像の制作に成功しました。それが一時的な上昇なのか、恒常的な上昇なのかはまだ分かりませんが、想定よりも早く実現できるかもしれません。

社会全体の道徳レベルが上がっていけば、世界中に他者との共感性が生まれて、戦争が起きなくなる。そんなことを目指して研究を続けています。

世にないものを生み出すのがアーティスト

ーー人がロボットと対話を重ねることで戦争をなくすというのは、斬新でとてもユニークな考え方ですね。光吉さんは、感情の音声認識の研究を始める前は、極真空手を極めたり、彫刻アーティスト・建築家として活動されていたと伺いました。様々な活動をしてきた中で、「戦争をなくしたい」という志は、いつ頃からお持ちだったのでしょうか？

子どもの頃からぼんやりとは思っていた気がします。コミュニケーションが苦手な子どもで、小さな頃から人と同じ行動ができなかったり、自分の気持ちをうまく伝えられなかったり、人を殴っちゃうこともしょっちゅうで。周りとうまく馴染めないことがつらくて、差別や仲間外れをなくしたいと思っていましたね。

また、極真空手をやっていた関係で、アメリカの軍隊に武道指導をしたことがあります。その時に戦争を間近で感じて、戦争はよくないと感じたことも大きいです。一番戦いたくないのは、現場の兵士たちです。でも、戦えと決めるのはいつも現場を知らない指導者で。そんな状況をなくすには何ができるのだろうかと考えていました。

それが、鄭先生と出会って、今までの研究と繋がったんです。鄭先生が唱える道徳観を広めれば、世界平和は実現できる。科学者の自分は、それを実現するためのサイエンスの部分を実装するんだってね。いつ戦争が起きてもおかしくないこの世の中で、本気で戦争を止めようと考えているんです。

この研究を、今の時代に、東京大学、日本から発信することにも大きな意味を感じています。日本の大学って、これまでは欧米の研究に追随することが多かったのですが、この研究は日本発。この研究を機に、日本の研究のあり方が変わってくれたら嬉しいですよね。

それに、感情や自我の研究って、とても日本人らしいものだと思うんです。以前、感情を研究していた時に、感情を表す言葉がどれくらいあるのか調べたことがあります。日本語では約4500もの感情表現があったんですが、それを英語に直すと、200程度にしか訳せませんでした。英語辞書は200万語程度の言葉がある中で感情を表す言葉が200程度。対して、日本語辞書は20万語程度の中に4500もあるわけです。それくらい、日本人は感情に対して繊細で豊かな感性を持っているということです。そんな日本人だからこそ、ロボットの感情を作る研究も適しているのではないかと思います。

また、今後迎えるであろう「信頼に重きを置いた経済」というのは、日本では昔から行われていた信用取引のことなんですよね。相手への信頼や好意で成り立っていて、お金をもらった側も「信頼されているから頑張ろう」という気持ちで必死で頑張るから、結果が出ていました。日本のシステムが、世界を維新する時なんだと思います。

ーー今の世にないものを作り出す大きな挑戦ですね。その挑戦を支える原動力はどこにあるのでしょうか？

武人である自分が突き動かすんです。「武」という字は、矛を止めるという意味があると言われています。つまり、戦いを止めることができる人が武人。優れた武人は過去にたくさんいますが、戦争を止めるという偉業は、まだ誰も成し遂げていません。史上最高の武人となるため、戦争をなくすために力を尽くしていきたいと考えています。

そして、俺はアーティストでもあります。存在しないものを創造してこそ、本物のアーティスト。だから、未だこの世にない新しいものを、生み出し続けていきたいんです。

■河西コメント
いつの世も、争いは限りある資源・資本を奪い合うことによって生じるものです。

現代の資本主義社会はあえて競争を生むことによって資本自体を増殖し、社会の豊かさを高めることを目指していると捉えられますが、その仕組みが暴走することによって、過度な格差や競争、果ては戦争などにも発展しかねない社会状況が現に存在してしまっています。

その中で、人々の道徳レベルを資本とは別の軸として育むことで、同じ資本量でも人々がより豊かに生きられるようにするというアイデアは、画期的に感じました。

光吉さんのように、想いを持って道徳レベルの高いロボットを作っている方がいらっしゃれば、人間はより人間らしさを取り戻し、ロボットならではの強みをより肯定的に受け入れられるようになるのではないかと、未来に希望が持てそうです。

「優しき武人」光吉さんの壮大な取り組みをこれからも応援しています！

また私たちも会社組織という立場から、目に見える業績だけを追求するのでなく、すべてのステークホルダーの心の豊かさに貢献できるようなエコシステムを形成していこうと、思いを新たにしました。

光吉さん、貴重なお話、本当にありがとうございました！