Invent or Die - 未来の設計者たちへ:第三回 中島聡 x 松本徹三 書き起こし その8

2018年11月20日(火)に開催された「Invent or Die - 未来の設計者たちへ:第三回 中島聡 x 松本徹三」の書き起こしです。

ソフトウェアエンジニアである中島聡と、半世紀以上にわたり、世界のITビジネスの最先端で巨大企業の経営に携わってきた松本徹三氏が、「AIの真髄」に対する正しい理解にとどまらず、シンギュラリティに達した「究極のAI」に対し、私たち人間に突きつけられる向き合い方の選択についてまで、グローバルな観点から議論します。

© naonori kohira

© naonori kohira

中島:分かりました。まぁ何となくこの話は尽きないような…ちょっと私なりにSF小説を書きたくなってきましたよ、まぁそれは今度。で時間もそろそろなんですけど、最後一個やっぱり聞きたかったのは、どこかの企業か、もしくはどこかの国が物凄いAIを一人で作ってしまうと、ろくでもないことになってしまう。GoogleのAIだけがずば抜けてるとか、中国が作るAIがずば抜けてしまうと、そこが独占してしまったらろくなことが無いから、じゃあ例えばUN(国連)で作りましょうとか。そういう話ですよね?

松本:前半のお話はその通りだと思いますが、具体的な手順になると、いきなりUNとはならないと思います。Googleのような企業が独占するのはまずいよということになれば、アメリカだと法律でいろいろ制約を加えることもできるでしょうが、中国の場合は国の政策がすべてですから、中国政府が「国の総力を結集して世界最強のAIを作るぞ」と言ったら、誰も止めらません。国際法なんていうものは基本的に無いものと一緒ですから。唯一の解は「中国が独走するのはまずいぞ」と考える国がそれぞれにベストを尽くすということです。宇宙開発だって、ソ連にリードされて危機感に目覚めたアメリカは、短時日の間に抜きかえしました。AI関連だって、国がらみで仕掛けてくるでしょう。日本だって、まぁ日本単独ではとても無理ですけど、インドと組むなどといった手も考えると、相当いいところまで行けるかもしれません。インド人がソフトで日本人がハードです。

中島:じゃあ別にでかい政府が出来るわけではなく、それぞれの、例えばアメリカ1つ、ヨーロッパ1つ、日本・インドで1つ、中国で1つとAIが出来ると。

松本:過渡期的にはそうなるのではありませんか? しかし、最終的には世界で一つにならないと、ややこしくなりますね。AI覇権を巡って、至る所で代理戦争が起こるかもしれません。それからAIと人間の関係ですが、最初は人間がAIを作りますが、段々とAIの比重が多くなって、AI自身がAIを作るようになるでしょう。最後のディシジョンは人間がやるということになっていても、実質的には殆どのことはAIがやることになっていくと思います。そうなると、どこかで「AIへの大政奉還」があると思います。人間だといつ悪者が出てくるかわからないから怖いじゃないですか。AIなら決めたところから逸脱しないから安心です。だから「早くAIに大政奉還しちゃおう」ということになると思うのです。

そういう大政奉還が各国で起こると、今度は各国のAI同士の代理戦争になるのではないかという危惧が生まれますが、そのことについては、実は私には一つの希望的観測があります。これからは、各国で段々と国の仕事をAIがやる分野が多くなり、そうなると外交も例外ではなくなります。外交交渉もお互いにそれぞれのAI顧問と相談しながらする様になります。首脳同士が直接交渉すると、ついカッときて計算に合わないことを言ってしまったり、国民から弱腰だと批判されることを恐れて無理をしたりということがあり得ますが、AIに任せればその心配はありません。「我々がこのまま話していると衝突しちゃいそうですね。しばらくの間はお互いにAI顧問同士で話をさせませんか? AI にやらせれば、お互いの利害得失を数値的に正確に弾きだしてくれそうだし、お互いの勘違いも無くなるでしょう。その間我々はバーで飲んでいましょうよ」と、どちらからともなく言いだしてくれれば、これで外交交渉は成功です。しばらくすると、「はい、答えが出ました」と言って両国のAI顧問から連絡が入ります。「AI同士の現状分析はこういうことで一致しました。このままいくとこういう問題が起こります。だから解決策としてこういうことで合意した方が、お互いによっぽどいいと思います」という提案が、理路整然となされるのです。こうなると、両国首脳はこれを受け入れるしか選択肢が無くなります。

中島:大政奉還する前の話?

松本:前の話です。大政奉還の前にやっぱり国同士の協定がないと。大政奉還はその後に。

中島:みんなで同時にやるのですね?

松本:そうですよ。そのときにはもう「世界連邦政府」が出来ている可能性も高いので、大政奉還をやるのも簡単になるでしょう。

中島:AI同士の話し合いによる「世界連邦政府」の成立ですね。

松本:そうです。まずは国境をなくすことが、大政奉還の前にあるべきです。大政奉還をして、シンギュラリティが全てを完全にコントロールするのが100年後とすれば、80年後くらいには世界連邦みたいなものが成立していなければならないという計算になります。

中島:それはAI同士がやってくれるから?

松本:その時点ではまだ最後は人間が決めるんです。でも実質的には、AI同士の計算づく合意がベースになります。「我々の共通の提案はこうですけど、最終的に決めるのは人間様ですから、両首脳が決めてください」とそれぞれのAI顧問に言われると、両首脳ともこれを否定しにくいですよ。

AIが神になる日――シンギュラリティーが人類を救う

AIが神になる日――シンギュラリティーが人類を救う