Invent or Die - 未来の設計者たちへ:第三回 中島聡 x 松本徹三 書き起こし その8

2018年11月20日(火)に開催された「Invent or Die - 未来の設計者たちへ:第三回 中島聡 x 松本徹三」の書き起こしです。

ソフトウェアエンジニアである中島聡と、半世紀以上にわたり、世界のITビジネスの最先端で巨大企業の経営に携わってきた松本徹三氏が、「AIの真髄」に対する正しい理解にとどまらず、シンギュラリティに達した「究極のAI」に対し、私たち人間に突きつけられる向き合い方の選択についてまで、グローバルな観点から議論します。

© naonori kohira

© naonori kohira

中島:分かりました。まぁ何となくこの話は尽きないような…ちょっと私なりにSF小説を書きたくなってきましたよ、まぁそれは今度。で時間もそろそろなんですけど、最後一個やっぱり聞きたかったのは、どこかの企業か、もしくはどこかの国が物凄いAIを一人で作ってしまうと、ろくでもないことになってしまう。GoogleのAIだけがずば抜けてるとか、中国が作るAIがずば抜けてしまうと、そこが独占してしまったらろくなことが無いから、じゃあ例えばUN(国連)で作りましょうとか。そういう話ですよね?

松本:前半のお話はその通りだと思いますが、具体的な手順になると、いきなりUNとはならないと思います。Googleのような企業が独占するのはまずいよということになれば、アメリカだと法律でいろいろ制約を加えることもできるでしょうが、中国の場合は国の政策がすべてですから、中国政府が「国の総力を結集して世界最強のAIを作るぞ」と言ったら、誰も止めらません。国際法なんていうものは基本的に無いものと一緒ですから。唯一の解は「中国が独走するのはまずいぞ」と考える国がそれぞれにベストを尽くすということです。宇宙開発だって、ソ連にリードされて危機感に目覚めたアメリカは、短時日の間に抜きかえしました。AI関連だって、国がらみで仕掛けてくるでしょう。日本だって、まぁ日本単独ではとても無理ですけど、インドと組むなどといった手も考えると、相当いいところまで行けるかもしれません。インド人がソフトで日本人がハードです。

中島:じゃあ別にでかい政府が出来るわけではなく、それぞれの、例えばアメリカ1つ、ヨーロッパ1つ、日本・インドで1つ、中国で1つとAIが出来ると。

松本:過渡期的にはそうなるのではありませんか? しかし、最終的には世界で一つにならないと、ややこしくなりますね。AI覇権を巡って、至る所で代理戦争が起こるかもしれません。それからAIと人間の関係ですが、最初は人間がAIを作りますが、段々とAIの比重が多くなって、AI自身がAIを作るようになるでしょう。最後のディシジョンは人間がやるということになっていても、実質的には殆どのことはAIがやることになっていくと思います。そうなると、どこかで「AIへの大政奉還」があると思います。人間だといつ悪者が出てくるかわからないから怖いじゃないですか。AIなら決めたところから逸脱しないから安心です。だから「早くAIに大政奉還しちゃおう」ということになると思うのです。

そういう大政奉還が各国で起こると、今度は各国のAI同士の代理戦争になるのではないかという危惧が生まれますが、そのことについては、実は私には一つの希望的観測があります。これからは、各国で段々と国の仕事をAIがやる分野が多くなり、そうなると外交も例外ではなくなります。外交交渉もお互いにそれぞれのAI顧問と相談しながらする様になります。首脳同士が直接交渉すると、ついカッときて計算に合わないことを言ってしまったり、国民から弱腰だと批判されることを恐れて無理をしたりということがあり得ますが、AIに任せればその心配はありません。「我々がこのまま話していると衝突しちゃいそうですね。しばらくの間はお互いにAI顧問同士で話をさせませんか? AI にやらせれば、お互いの利害得失を数値的に正確に弾きだしてくれそうだし、お互いの勘違いも無くなるでしょう。その間我々はバーで飲んでいましょうよ」と、どちらからともなく言いだしてくれれば、これで外交交渉は成功です。しばらくすると、「はい、答えが出ました」と言って両国のAI顧問から連絡が入ります。「AI同士の現状分析はこういうことで一致しました。このままいくとこういう問題が起こります。だから解決策としてこういうことで合意した方が、お互いによっぽどいいと思います」という提案が、理路整然となされるのです。こうなると、両国首脳はこれを受け入れるしか選択肢が無くなります。

中島:大政奉還する前の話?

松本:前の話です。大政奉還の前にやっぱり国同士の協定がないと。大政奉還はその後に。

中島:みんなで同時にやるのですね?

松本:そうですよ。そのときにはもう「世界連邦政府」が出来ている可能性も高いので、大政奉還をやるのも簡単になるでしょう。

中島:AI同士の話し合いによる「世界連邦政府」の成立ですね。

松本:そうです。まずは国境をなくすことが、大政奉還の前にあるべきです。大政奉還をして、シンギュラリティが全てを完全にコントロールするのが100年後とすれば、80年後くらいには世界連邦みたいなものが成立していなければならないという計算になります。

中島:それはAI同士がやってくれるから?

松本:その時点ではまだ最後は人間が決めるんです。でも実質的には、AI同士の計算づく合意がベースになります。「我々の共通の提案はこうですけど、最終的に決めるのは人間様ですから、両首脳が決めてください」とそれぞれのAI顧問に言われると、両首脳ともこれを否定しにくいですよ。

AIが神になる日――シンギュラリティーが人類を救う

AIが神になる日――シンギュラリティーが人類を救う

Invent or Die - 未来の設計者たちへ:第三回 中島聡 x 松本徹三 書き起こし その3

2018年11月20日(火)に開催された「Invent or Die - 未来の設計者たちへ:第三回 中島聡 x 松本徹三」の書き起こしです。

ソフトウェアエンジニアである中島聡と、半世紀以上にわたり、世界のITビジネスの最先端で巨大企業の経営に携わってきた松本徹三氏が、「AIの真髄」に対する正しい理解にとどまらず、シンギュラリティに達した「究極のAI」に対し、私たち人間に突きつけられる向き合い方の選択についてまで、グローバルな観点から議論します。

© naonori kohira

© naonori kohira

ここで少し基本的な問題に戻ってみましょう。AIって、要するに何ですかと。

一言で言えば、AIは人間の頭脳に代わるものです。そして、どうも人間より相当賢くなりそうだとみんなが考えています。しかし、本当は、こんなことはもうとっくに実現しています。それまで人間が頭を使ってやってきていた多くの仕事が、もうとっくにコンピューターに代替されています。そして、代替した分野では、人間より遥かに出来が良いことが分かっています。計算能力だとかそんなものは、比較にならないじゃないですか。ロボットだって力の強さや動きの速さは比較にならない。問題はただ一つ、コンピューターやロボットができる仕事は、人間がやっている仕事のほんの一部にすぎず、能力的には隙間だらけだということです。

では、コンピューターがAIと呼ばれるようになる時代には何が起こるかというと、人間の脳の活動のほとんどを、例えばアイディアを思いつくとか、これまでになかった新しいやり方を工夫するとか、そういったことも含め、多くの事を漏れなくカバーして、しかもカバーしたそれぞれの分野では、人間の能力を圧倒的に凌駕するようになるという事です。

よく引き合いに出される話ですが、世に言う「名医」とはどういう人でしょうか? 要するに、経験を積んでいて知識が豊富な人、その知識をベースに患者の症状を分析して、的確な結論を出し、的確な措置を講じることができる人でしょう。知識はどこから得られるかと言えば、学校の授業、医学書、それから自分自身や先輩、同僚の経験からです。しかし、AIなら、およそ印刷物になったりネットに上げられたりしているものなら、全部通読して記憶し、一旦記憶したものは絶対に忘れないし、実際の診断に少しでも役に立つものは決して見落としません。どんな勉強家でも、こんなAIには太刀打ちできるわけはありません。

弁護士だってそうですよ。有能な弁護士ってどんな人ですか? 法令や判例をたくさん覚えていて、臨機応変にそれを使える人ですよね。でも、法令や判例を全部覚えている人なんていませんよね? AIにとってはそんなことは簡単ですけど。AIは世界中の法令を勿論全部憶えています。裁判の記録も全部。どうどう問題が持ち出されても「あ、あれはね何年のどこどこの裁判でこういった判決が出てるんです。あなたは勉強し直して下さい」とやられたら、人間の弁護士ではとても太刀打ちできません。

ただし、こういう事を言うと必ず出てくる反論があります。「そんなこと言ったって、人間のことはやっぱり人間でなければわかりませんよ。感情を持たないAIに人間の感情が理解できますか? 人間の感情もわからないままに、心がこもったやり方で問題の処理ができますか?」というやつです。しかし、こういう反論に対して論駁するのは比較的簡単です。自らは感情を持たないAIも、人間の感情を統計的な手法で概ね理解することは出来るからです。それが証拠に、AIは人間が感動するような音楽を作ることもできますし、小説を書くこともできます。平均的に言えば、人間より上手いかも知れません。

例えば小説を書くとしましょうか。AIは統計的に「どうもこういう題材をこういう風に描くと人間は喜ぶらしい」ということを知っているのです。今普通に売れる小説は推理小説と歴史小説ですが、こういうのはAIの得意分野になるでしょう。歴史小説だったら「文体は司馬遼太郎風が人気があるらしい」と理解して、司馬遼太郎の文体のリズムをコピーします。これは勿論盗作にはなりません。 一旦題材を決めたら、史実なんかは全部綿密に調べますから、一分の隙もありません。勿論、人間の好みに合わせて史実を大きく曲げることもお茶の子さいさいです。筋書きのパターンも色々なアイデアの中から、統計的に一番好まれそうなものを選びます。「ここで主人公が挫折すると読者は同情するだろう」とか「せっかく上手くいっていたのに、女の為に馬鹿々々しい失敗をしてしまうと、読者は意外にもそのことに感動しそうだ」とか、「少しでもよく売れる本を書け」という命令に答える為に、AIは色々に工夫するのです。出来上がった小説を人間が書いたものと区別するのはほとんど不可能でしょうが、実は書く動機は全く違うのです。人間が小説を書くときは、自分の心の中に何かが生まれて「あ、この気持ち、他の人も分かってくれるかなぁ」という強い思いが自分を駆り立てます。そして、その気持ちが誰かに分かってもらえるとものすごく嬉しいのです。しかし、AIの場合は面白くも嬉しくもないのです。「よく売れそうな歴史小説を10冊ほど書いてよ」と人間から要請されれば、「はいはい!」といって受けるだけです。

尤も、これまでに全く例がなかったような独創的な本を初めて書くのは、現時点でのAIにはやはり荷が重いかも知れません。「クリエーション(創造)」という人間の脳の働きは、完全に解明するには時間がかかるでしょうから、最後まで人間の強みとして残るでしょう。AIによるこれまでの様な自己学習だけでは、ある程度は出来るかもしれないけれど、限界があるでしょうから、全く新しい学習方式を開発することが必要です。

「感情移入」ということについてももう少し考えてみましょう。感情を持たないAIは「感情移入」なんかしませんが、それで何か不都合がありますか? AIに感情を持たせたら何か良いことがありますか? 多くの人が「感情を持てないAIは所詮それだけのもの。人間とは同列にはなれない」と勝ち誇った様に言いますが、私に言わせれば、人間と同列になる必要なんか全くないのです。AIは、感情がないからこそ有難い存在になれるのであって、AIに感情を持たせるなどということは、考える必要がないどころか、絶対に考えるべきではないことなのです。喜怒哀楽で毎日を過ごすのは人間だけで十分です。人間のような存在は、もうこんなにたくさんいるのですから、これ以上はいりません。AIは、人間がしんどくてやりたくないこととか、上手く出来ないことを黙々とやってくれればいいので、喜んだり楽しんだり泣いたりするのは、人間がやっていればよく、AIなんかにやってもらう必要はありません。

AIの開発という観点からいっても、AIに感情を持たせようと努力するのは間違っています。そんなことをしようとしたら、とんでもない労力が必要になるからです。人間の喜怒哀楽は、色々な要因で、脳内でアドレナリンだとかドーパミンとかいった色々な物質が生まれてくることによって引き起こされますから、こういう色々な化学反応を人工的に作り出そうとしたらとんでもなく複雑な仕事になるのです。「理性」と「感情」は人間の脳の働きを語る上ではよく対比されて語られますが、人工的にこれを作ろうということになれば、比較にならないほど難易度に差が出て来ます。「理性」は、ほぼロジックそのものですから、デジタルで簡単に再現できますが、「感情」は複雑怪奇な化学反応が生み出すアナログ現象そのものですから、全く次元の異なったものであると理解しておくべきです。

そもそもAIは人間が自分のために役立つと思って作り出すものですから、役立たないものは無理に作り出す必要はありません。人間の感情を統計的に「理解」する事は必要ですが、こういう「理解」は理性の産物ですから、AIにやってもらってしかるべき仕事です。しかし、 AI自身に感情を持ってもらっても、人間にとってはクソの役にも立たないだけでなく、感情は理性的な判断の妨げになりますから、有害にさえなるのです。そんなことのために膨大な研究開発の時間をかけるのは全く無意味な事です。

AIが神になる日――シンギュラリティーが人類を救う

AIが神になる日――シンギュラリティーが人類を救う