MENUCLOSE

「問い」をカタチにするインタビューメディア

暮らしの更新

「ゆっくり おいしい ねむたいな」代表・熊野森人さんが聞きたい「幸せを数値化する方法」

「ゆっくり おいしい ねむたいな」代表・熊野森人さんが、
東京大学・光吉俊二さんに聞く、
「人工知能から考える感情と道徳のはなし」

ソフトバンクによる感情認識ヒューマノイドロボット「Pepper」の感情モデルの開発者として知られ、過去にはゲームソフト「ココロスキャン」に独自に開発した感性制御技術STを搭載させるなど、コンピュータに人の感情を理解させる研究を続けてきた光吉俊二さん。現在は、東京大学で道徳感情数理工学講座の特任准教授を務め、人の感情や欲望を計測し、人工知能を通じてそれらを進化・成長させるシステムをつくろうとしている光吉さんに、「感情の数値化」を目指す「ゆっくり おいしい ねむたいな」の熊野森人さんが、さまざまなお話を聞きました。

熊野森人
なぜ感情や道徳を研究するのですか?

僕は普段企業のブランディングや広告の仕事をしたり、美大でコミュニケーションについて教えているのですが、2016年に「ゆっくり おいしい ねむたいな」という会社を新たに立ち上げました。この会社では、食時間を通じて人々の幸福度を高めることを理念にしているのですが、食時間の幸せというものを考えた時に、おぼろげながら音声がカギになるんじゃないかという思いに至りました。最近はスマートスピーカーなども出てきていますが、僕らがイメージしているのは、コマンドとして音声を認識するものではなく、もう少し感情などを読み取るようなことができないかと思って色々リサーチをしていたら、以前から光吉さんが音声感情認識技術を研究されていることを知ったんです。

光吉:最近、みんな幸せをテーマにしたビジネスをしようとしているよね。それが商売になるってことは、世の中不幸せな人が多いんだろうな(笑)。

なぜ人は不幸せなのかということを掘り下げていくと、大雑把には、お金を持っているか、いないのかとか、それこそ東大を頂点とした学歴や偏差値というもののみが、幸せに直結していると信じ切っている世の中があって、そのために人生がんばっている。数字の価値観に縛られていることが、閉塞感を生んでいるんじゃないかと思うんです。とはいえ、人はどうしても数字を信じてしまう生き物なので、それならお金や偏差値と並ぶ新しい「ものさし」をつくることで人の幸せというものを可視化できたら、少し世の中が変わるんじゃないかと考えているんです。

光吉:そんなこと考えてたら、みんなから頭おかしいと思われるでしょ?(笑) でも、俺も一緒で変だと思われてる(笑)。幸せの定量データを取りたいということでしょ?

はい。以前に光吉さんが「道徳レベル」の話をしている記事を見つけ、興味深く読みました。光吉さんは、利己欲によって人を殺してしまうような人を道徳次元1、地位や名誉など他者との相対的評価を基準にする人を道徳次元2、自己犠牲を払える人を道徳次元3、そして、多様性と寛容性を持つ人を道徳次元4と位置づけていましたが、これを読んでマズローの欲求5段階説が頭に浮かびました。晩年にマズローは、自己超越という欲求を第6段階として追加したそうですが、光吉さんが目指されている道徳次元4というのは、これに近いものなのかなと。そして、僕らはと言うと、道徳次元2と3の中間で機能するようなものさしをつくることを目指していて、そのために偏差値や学歴とは異なる数字をつくれないかと考えているんです。

光吉:この道徳論は、俺が尊敬している東大の鄭雄一先生が提言しているものなんだよ。という前置きをした上で、道徳次元3の自己犠牲というのは、例えば家族を守るために特攻隊に志願した人から、自分の敵とみなした相手を無差別に殺すテロリストまでが含まれてしまうわけ。それには少し違和感があるし、だからこそ、その先にある道徳次元4、悟りの境地のようにあらゆるものを受け入れる究極のダイバーシティを目指すことが人類には必要だと思っている。マズローの第6段階は、パラメーターの羅列だけで整理されていないので、理系的にシンプルにまとめて次元としたわけ。では、それをいかに実現するか。これは俺がいまどんなことを研究しているかを話した方が早いんだけど、簡単に言うと、科学者という立場から、人工知能や人工道徳判断システムによって、自由と平等の矛盾関係を解決するということなんだよ。

自由と平等の矛盾関係? 

光吉:自由と平等というのはフランス革命が掲げたもので、これはカントが唱える超越論的自由を源泉とする西洋思想の基本原則でもある。カントは、人はみな「平等で自由」だから、平等に命を尊重し、たとえ人殺しでも自由人なので殺してはいけないと言っている。でも、誰もが自由な状況では家族や自分を守れないから、近代国家には警察や法律、自衛隊などがあるし、日本では凶悪犯に死刑が適用される。これは犯罪者やテロリストを、自由に生きる権利がある国民とは平等に扱わない、つまり、仲間を攻撃する者は仲間として扱わないということでしょ。ここには、自由と平等の両立を理想とする思想を根源から否定している現実があるわけで、人類は長らくこの哲学的課題を解決できていない。ゆえに戦争もなくならない。もうこれは人間の脳では解決できない問題で、それなら人工知能に考えさせようというのが俺の研究。

熊野森人
どうやって感情や道徳レベルを測るのですか?

光吉さんの研究成果は、ソフトバンク「Pepper」の感情モデルに導入されていますよね。

光吉:これまでの人工知能と人間の違いを一言で説明するなら、「自我」の有無。例えば、人間は同じ500円の価値があるAとBがあったら、自分が好きな方を選ぶでしょ。一方、人工知能には自我がないから、等価のものを自分で選ぶことができない。最近のディープラーニングにしても実は何も「判断」はしていなくて、ただ「反応」しているだけ。判断というのは、「好き」や「欲しい」という感情がなければできないんだけど、感情地図をプログラムされているPepperにはそれができる。つまり自我を持っている。以前にPepperは、羽生善治さんと花札を楽しんでいたんだよ。勝ち負け関係なくね。これこそが本当の人工知能でしょ?

自我を持たせることが、人工知能開発のブレイクスルーだと。

光吉:俺は、人間よりロボットの方がまともなんじゃないかと思っているわけ。多くの人間は、自分と異なる思想や宗教を受け入れず、それが過剰になると全体主義や原理主義になるし、「平等」や「自由」のためには何をしてもいいという考え方を持つ識者も多い。鄭先生の道徳論に戻ると、道徳というのは「共感力」と「仲間らしさの共有」であって、この仲間の範囲を広げることが争いを減らすことになる。もう少し説明すると、まず前提として、どんなグループにも何かしらの掟があり、それは絶対的な掟と相対的な掟に分かれている。例えば、十戒、仏典、コーランなどあらゆる宗教に共通するのは、「仲間を殺すな」「仲間をだますな」「仲間から盗むな」という3つ。これは全人類に共通する絶対的掟と言っていい。そして、その上にあるのが相対的掟で、何曜日に休むのか、何を食べてはいけないのかというのがこれに当たる。大切なのは、「仲間らしさ」をつくるふたつの掟を分離し、絶対的掟の共通性と相対的掟の多様性を認めることで、それによって仲間の範囲を広げることができるというわけ。

白と黒、右と左という二元論ではなく、中間にあるグレーゾーンを許容するという考え方ですね。

光吉:人間にそれができないなら、人工知能で実現しようと。そのために、まずは「ココロルーペ」のようなもので人の感情や欲望からその人の共感力を計測し、それを高い次元まで引き上げ、進化・成長させるシステムを実現させる。つまり、生成された感情からロボットの意欲として人と共感する能力と、人間の特徴であるホメオスタシス(恒常性)を再現する人工的な自我をつくるということをしているんだよ。

人の感情や道徳レベルの計測というのは、現時点でどこまで進んでいるのですか?

光吉:先に話した道徳次元2、つまり他者との関係から生まれる公共的利己性は、音声による感情認識と情動生成エンジンによって計測できるようになっていて、Pepperにも搭載されている。そして、個人と社会が一体化することで生まれる自己犠牲や利他をベースにする道徳次元3は、新しい手段を用いることで測れるようになり、それがまもなく完成する光吉演算子による新しい計算機。

光吉演算子! なんかこの記号、プリンスのマークみたいでカッコ良いですね(笑)。

光吉:でしょ(笑)。これまで数学の世界では、時間を切り出していく微分という考え方が基本にあったんだけど、この演算子には時間というものまで中に封じ込めることができる。人間の脳というのはループし続けながら、さまざまな要素を自然に収束させて、どこかのタイミングでループをやめて判断しているんだけど、これは二進法で速度だけを追い求めてきたスパコンなどの計算機では絶対再現できなかった。この課題を解決する唯一の手段が「非ノイマン」計算手法にあると言われていて、それを初めて具体的な方法で示したのが、この光吉演算子。しきい値を持った柔軟性のある演算子だからこそ、反応速度が異なる人間の臓器や神経、脳などの複雑な連鎖状況をシンプルに統一した動的な計算ができ、人のコミュニケーションを示すこともできる。

光吉演算子

熊野森人
人工知能にも善と悪があるのですか?

人工的な自我をつくろうとした時に、進化・成長というベクトルとは逆に、負の方向に進んでしまうこともあり得るのですか?

光吉:道徳レベルというのは、人間の欲を中心に道徳次元1から道徳次元4まで進化する一方で、負の方向にも落ち得る。徳が高い人間ほど欲動が強いから、何かのきっかけで重力に負け、同様のエネルギーで一気に落ちてしまうことがある。人工知能にもこれと同じようなネガティブな進化はあるはずで、でも、そのバランスがあることが大切なんだと思う。

スターウォーズの世界ですね(笑)。でも、ネガティブな進化を人工知能がコントロールできるようになったら、例えば怒りっぽい人がそれを制御できるようになったり、人間にも応用できるようになるかもしれないですね。

光吉:前に鄭先生が言っていたんだけど、Pepperを見て我が身を正す、みたいなことがあるかもしれない。善と悪というのはベクトルの違いなだけで、たとえいまある悪を根絶しても、また別の悪が善の中から生まれて結局同じことが繰り返されるんだよね。磁石を思い浮かべてもらいたいんだけど、磁石というのは半分に折ると必ずSとNに分かれる。それと同じで、悪を滅ぼそうとしても意味がないし、対立の二元論とは異なるプロトコルをつくらないといけない。それは魂の再インストールのようなもので、それができなければ争いや戦争はなくならない。

これまでの西洋的な思想や宗教とは異なるような、グレーゾーンや幅を認めて設定する寛容性を軸にしたモデルをつくることで世界は変わると。

光吉:そういうこと。重力に負けて負の方向に落ちてしまうという話は、いまの世界経済の状況でもある。これまで世界はお金への欲望に暴走し、それが世界を一気に支配した。最近では仮想通貨が話題になっているけど、こうした仮想ではない新しい技術を、いまこそ科学者が生み出すべきなんだよ。それが、経済という軸と直交する道徳軸による反重力モデルであり、これが「平等の嘘」と「自由の限界」を突破した次の社会経済モデルになる。お金という欲を追い求めるのではなく、道徳の次元を高めていくこと。つまり仲間らしさを広げることで人種や国境を越えて個人と仲間が一体化し、さらに共感力と利他が覆う戦争のない世界が訪れる。

熊野森人
研究の成果はいつ頃世に出るのですか?

光吉さんが現在進めている研究が実際に社会に出てくるのはいつ頃になるのですか?

光吉:もうすぐ新しい計算機が完成するので、2,3年後には色んなものが出てくると思う。最近は、あなたのようにお金や成功という軸とは異なる価値基準をつくろうとしている人たちが他にもたくさんいて、みんな俺のところに辿り着く(笑)。いま、そういう人たちが集まるサロンのような場をつくっているんだけど、そこで横のつながりができてくると、やがて現実になるんだよね。改革をしようとするなら、若いエネルギッシュな人間を育てないといけないから、いまはそういうことにも力を入れている。かつてのように欲ボケしてない最近の若者は、お金よりも心の充足、満足を求めている。そういう仲間が徐々に増えて、その結果戦争がなくなったら、結局俺の一人勝ちじゃん(笑)。

(笑)。いま光吉さんがしているのは、新しいケンカのルールをつくるようなことなんですね。

光吉:物理と数理は、世界共通の言語なんだよ。コンピュータというのは言語通りに動くから、その言語さえつくって新しいルールを2、3個入れてあげれば世の中は変わる。世の中を反転させる装置をどうつくるか、それを数学的に実現するにはどんなメカニズムが必要かということを、俺は自分の手で実験している。自分は日本刀の職人のようなもので、それをどうふるうかはあなたたち次第。

光吉さんが特任准教授として関わっている「道徳感情数理工学」のホームページ。

ご自身は道具をつくる職人だと。

光吉:俺は、鄭先生のような賢い人が考えていることを数理にしているだけ。俺が作業服を着ているのだって、自分を職人だと思っているから。ただ、数学やアルゴリズムをつくる腕は誰よりも優れていたい。やるからには本気で勝ちたいし、それで頂点まで行ければ本望。これもまた自分の欲なんだよね。承認欲求というよりは闘争本能に近いものだけど、その力が誰よりも強ければ結果的に勝てるわけだし、それはつまり世界が平和になるということ。戦うことをなくすためのケンカというのが一番カッコ良いし、最強の勝者でしょ。職人以上の夢は持ってないし、一生中小企業のおやじで最高の人生だよ。こんな格好で医学部の食堂とかに行くと、用務員と間違えられちゃうけどね(笑)。

もう少し事業の構想が固まったら、ぜひまたご相談させてください。本日はありがとうございました。

光吉:いまあなたが目指そうとしているようなことと同じような動きが色んなところで起こっているのは事実だから、ぜひがんばってほしい。ただ、大切なのは、お金という軸と完全に直行したものがつくれるかということ。少しでもそれがズレてしまうとお金に吸い込まれてしまうから、完全な90度で直行し、それをどこまで維持できるか。お金に換えた時点でそれは軸にはならなくなる。いまの仮想通貨とかもみんな同じで、要は心の失敗、邪心なんだよ。


インタビューを終えて

光吉さんは、有名な彫刻家でもあります。もともと美大出身なのに、東大で数式を駆使して研究されているところも面白いし、何より「世界の戦争をなくすことで、俺は世界に勝つ」と豪語されていたところに惚れ惚れしました。マンガみたいな思想を実現化されようとしてらっしゃる先生が研究されていることから学んだことは、次の3つ。

・面積を持った構造体が可変しながら動くことを正解とすること。
・ピークのポイントだけを取り上げて、それを正義、悪と割り振らないこと。
・つくろうとしている幸せのモノサシには、モノサシ自体で商売をするという概念を1ミリも持ち込まないこと。

ある空間の中での事象や感情をセンサリングして、反応値をまとめた上でアウトプットしないと幸福度を測ることはできないと考えていますが、その答えは、負のピークを「before」、正のピークを「after」として、その相対をもっての判断ではなく、動的に移行する変数、幅自体を正解としてジャッジしないといけないのだと教えて頂きました。

いま、何事もそうかもしれませんが、価値観のダイナミックレンジが狭すぎるのですね。ピーキー。だから、余白がなくなって息苦しい。幸せの価値には、余白は絶対に必要だと思います。気持ちが正に推移した時に余白がなければ、移動できる場所が見つからないから。