「『あるべきシンギュラリティ論』 さかき漣―山口優 対談(1)」山口優

(PDFバージョン:arubekisingularity01_ymagutiyuu
2017年3月某日 渋谷のカフェにて

【本対談の経緯と構成】
 昨年10月、さかき漣著「エクサスケールの少女」が刊行された。「エクサスケールの少女」は、シンギュラリティをテーマとした小説である。シンギュラリティ(正確には、『テクノロジカル・シンギュラリティ』即ち『技術的特異点』)とは、人工知能技術やナノテクノロジー、遺伝子技術等の急速な発展により、将来の技術発展の速度と方向性が現在の人間には合理的に予測できなくなる将来のある時期を示す、技術史における概念である。この概念をテーマとした『エクサスケールの少女』は、最先端の科学技術を取り扱う一方、シンギュラリティにおいて重要となる問いである、『人間の本質とは何か』を原初の時代から問い直すために、神話をもそのテーマに含んでいた。
 一方、シンギュラリティと神話というテーマは、2010年11月に刊行された山口優の『シンギュラリティ・コンクェスト』にも共通するものである。同じテーマで本を書き、互いの興味や関心が共通することから、さかき漣と山口優は互いに連絡を取り合い、対談が実現した。
 対談は主に4つの部分から成る。(1)さかき漣から山口優への『シンギュラリティ・コンクェスト』に関するコメント、(2)山口優からさかき漣への『エクサスケールの少女』に関するコメント、(3)互いの小説の好きなシーン、そして、(4)あるべきシンギュラリティについて、である。
 本稿では、このうち、(1)の部分について掲載する。

【対談(1)】
山口:本日はお会いできて光栄です。どうぞよろしくお願いいたします。

さかき:よろしくお願いいたします。早速ですが、『シンギュラリティ・コンクェスト』、面白かったです。やはり、さすが理系だなあと。AIやシンギュラリティがからむ、研究者の方々が懸念している問題点が網羅されていて。理系的な観点からの解決策を提示するため、理論を構築する、というのが主軸になっている小説だと思います。その観点からは、私の『エクサスケールの少女』と対極にあるなあって。

山口:なるほど。

さかき:想像なんですが。山口さんの創作は、まず研究者ならではの骨組みがあって、そこにエンタメの要素を肉付けしていくという方法をとられているのかなと。

山口:そうですね。理系からみた懸念点……おそらく、一番懸念されることは、AIそのものなんですよね。それ以外の問題点はだいたい解決されていくだろう、という話はあるんですけれども、AIそのものが力を持っていくことは、解決されていない、解決法がなかなか思いつきにくい問題ですね。AIというものが倫理感をどう持つのか、という話に集約されると思うんですけれども。それを人間がなんとかがんばって制御するという話と、人間が制御しなくてもどうにかなるんじゃないかという話と、大きく分けると二つあると思うんですよね。

さかき:私もすごくそれに拘って書きました。

山口:ですよね。それで、二つ出して違いを際立たせるというのが、まず一つあるのではないかと。信頼するというのもなかなか難しいですよね。AIを。どう考えても、我々とは別の存在ですから。賢くなればなるほどにそんなに愚かなことをしない、非倫理的なことはしないと言われるんですけれども、我々の倫理というものはそこまで合理的ではない。寧ろ非合理的な部分が多い。

さかき:そうですよね。

山口:合理的な考え方をする存在が倫理的な考え方をするかどうかは、全く未知数です。そのあたりのことを考えると、倫理的であるために非合理的な要素を入れないとどうにもならないんじゃないかと思います。

さかき:今のお話、すごく分かりやすくて。私の中でもやもやしていたところが解消された感じです。山口さんは問題解決のために、身体、というものにすごく拘っていらっしゃると思います。作中にでてきた「クオリア空間」で擬似的に身体感覚を持たせるということ。このクオリア空間の存在が、解決策において大きな役割を果たすという。

山口:クオリア空間というのは私の造語です。クオリアという用語そのものはあるんですけど。クオリア空間といのは、私の想定ではある種のヒルベルト空間のようなもので、様々な情報のベクトルがマッピングされているというイメージで考えてもらえればと思います。何億次元になるか分かりませんが、いろんな人の身体の状態がマッピングされているようなベクトル空間がある。感情の研究で有名な人にアントニオ・ダマシオという人がいるんですが、彼が言っているソマティック・マーカーに近い概念かも知れない。

さかき:「クオリア」という脳科学の専門用語を活用し、山口さんが作りあげた「クオリア空間」がストーリーのキーになっていると。物語全体を通じて、人類が身体を持っていることの意義や、または種の定義として脳があればそれだけで人間と呼べるのか、という問題が語られていて。
 作中、人工知能の判断によって、悪役キャラが身体を破壊され脳だけの存在にされちゃう場面があるじゃないですか。『シンギュラリティ・コンクェスト』では、私、このシーンが一番好き。電動ノコギリが人体を破壊していく光景、骨を削っていく音は響き、男性キャラクターの断末魔の声の余韻とか……単純に私の好みなのですが、最先端技術による攻撃の描写よりも、より原始的な、たとえば刃物などでの直接攻撃の方が、ぐさっと心に刺さるんですよね。残酷なぶん、読者の情動に与える影響も大きいと思うので。私は自分の作品の中であえて残酷な描写を多く入れるようにしているんですが、そのほうが明るいシーンや楽しい部分が際立つと思うから。その意味でも、この人類が脳だけにされてしまうシーンは非常に良かったと思います。

山口:あそこはえぐいですね。ただ、私の意図としては、合理性をつきつめたときに、どういう考えになるのかな、というのを分かりやすく示したかったんです。メサイアは悪気があってああいうことをしたわけではなくて、人間の本質は思考なんだと突き止めて考えたら、思考をする存在だから、脳だけにするのが効率的なんだという。ただ、「それはありえない」とみんな考える。「なんでありえないんだろう?」と考えて欲しい。

さかき:本当に、大きなショックを受けつつも、深く考えさせられるシーンです。人間が身体を捨て、脳だけの存在、言い換えれば意識や思考だけの存在になり、その意識の集合体が人類だ、ということで本当にいいのかと。
 漫画家・ますむらひろしさんの『アタゴオル』というシリーズ作品があるんですけれど。この作品の中でますむらさんは繰り返し、「人間の個と個の境界をなくして、大きな一つの存在にしようとする悪役と、それに反発した主人公たちが陰謀と戦うお話」を描かれていて。それと通ずるものを、この『シンギュラリティ・コンクェスト』のシーンに感じました。
 これについての私の意見としては……私という存在は、世界との間にはっきりと境界線を持っているはずだ。境界を明確に保持したうえで、その向こうの他者と交流するから、私なんであって。もしも境界がなくなって、自他が入り混じってしまったら、私という意識、つまり私という存在は世界から消えたも同然なんじゃないかと。そう考えているんです。

山口:ある程度、統合度が上がれば、意識も一つになっていくと思います。先月のコラム(2月20日更新のSF Prologue Wave掲載のコラム「シンギュラリティの十分条件」)にはちょっと書いてるんですけれど、科学的に意識というのを研究してる人がいるんですが、彼は、脳の中で、出力される情報の多様性が最大化できるニューロンの組み合わせが存在するところが意識の座だというんですね。出力される情報の多様性という概念は、情報科学では「カルバック・ライブラー距離」にあてはまるのですが、彼はそれを「情報の統合度」と呼んでいます。その理論の名前は「意識の統合情報理論」と言います。実際、シナプスによるニューロンのネットワークの多様性は非常に大きいんです。コンピュータ回路と違って、シナプスの伝達する速度は一つ一つ違うんですよ。コンピュータは接続しているか、していないかの0と1しかないんですが、シナプスはつながっているか、つながっていないかではない。つながり方の程度が違う。だから、「ニューロンのつながり方」として定義されるコネクトームは非常に多様なんですね。コネクトームについてはさかきさんも書かれていると思うんですけれども。この理論によれば、思考実験として、二つの意識のつながり具合を増大させていき、ある閾値を超えると一つの意識になることになります。一つの例として、人間には右脳と左脳がありますが、その間の脳梁の接続具合を変えていくと、全く別の人格になったり人格が統合されたりするでしょう。脳梁切断によって別人格になるというのはそういう実験があったと思いますが、またつなぐとどこかのポイントで再び統合されるというのは面白い予測です。更に考え方を進めて、多様な感じ方をしている一人一人の脳を統合していくと、どこかで別人であった人格がひとつになることになります。そうすれば、個々人の個性、多様性も失われるのではないかと思いますね。

さかき:個々の命や意識ではなくて、一つの考えしか持たない別個の存在になってしまうと思います。つまり、人間を解体してその一部をつなげて、言ってみれば「統合人間」のような新しい生き物をつくり出したんだと。だからメサイアのやったことって愚策にしか見えないんです。

山口:彼の効用関数は人類、さかきさんの仰る「統合人間」なので。

さかき:極限まで合理的に考えたら、そうなっちゃうのかもしれないけど。それは情報の集合体というか過去の記憶の寄せ集めというか、そこには以前の生身の人類のデータしか残ってない。というか、データでしかないかも?

山口:そうですね……データであり、プロセッサでもあると思いますけど、人類にとっての幸せ、というのは人間のように身体を持っていないと、周囲の環境から、身体を以て感じるということがない。情報処理をする主体にとっては、情報処理を効率的にできるほうがいいことになる。メサイアは今まで人間がつくったデータを参照しているんですが、それによれば、より効率的に、情報処理できるのが幸せなんじゃないかと考えた。

さかき:『シンギュラリティ・コンクェスト』の主要キャラクターのひとりである「天夢」の役割は、身体感覚と情動を持つことによって非合理的な存在になり、そのうえで世界を導くのが幸せなシンギュラリティへの道筋なのだと、読者に教えることですよね。ただ私は、新時代のAGIが「非合理的な部分も持っている」ことが、幸せにつながるとは必ずしも思えないんです。
 日頃から私は、人間の知能というのは非常に愚かだと、すごく思っていて。たとえばデマに簡単に騙されたり、集団になると判断力に異変が見られたりなど。特にここ十年弱は、人間の倫理感に危うさを感じていて。だから前作の『顔のない独裁者』と今回の『エクサスケールの少女』では、いわゆる”大衆問題”も大きく取り上げています。でもネガティヴでネクラな私と違って(笑)、山口さんは人間の良心とか底力などを信じていらっしゃるのかなと。

山口:信じているというか、一つのことに、いい面と悪い面があるということだと思います。いい面を捨てれば、悪い面もなくなる。天夢という存在は、良い存在であるかのように描かれていて、この物語のなかでは天夢の勝利はハッピーエンドですが、彼女には激情に任せてどっちにころぶか分からないという危うさもある。作中でもさんざん指摘していますが。情動パラメータがいろんな値を取る。シンプルに言って、あるときは怒って、あるときは悲しむ。情動パラメータというものを、フレーム問題を解決するのに使っている。一つの物事にもいろんな見方がある。いろんな見方をしていたら何をしていいか分からない。だからあえて偏らせている。メサイアというのは、いろんな見方、偏見を持ったノードがネットワークを作っている。だから何をしていいのか分かるし、偏らない。

さかき:だからビッグデータで問題解決するのがメサイアで、天夢は「情動パラメータ」に重きを置いて問題を解決させようとする。この情動パラメータって、私が『エクサ少女』に登場させた「価値システム」とほぼ同義ですね。

山口:天夢には自分自身の価値観があるんです。ただその自分自身の価値観もずっと同じじゃないわけです。人間だって成長していくにしたがって、かわっていく。彼女自身の価値観も変わっていく。それを成長と表現していて、『シンギュラリティ・コンクェスト』では、それがいいことだと書いているわけです。

さかき:私は2016年初頭から夏ごろまで、本当に短期間だけれど人工知能について勉強して、まず凄く乗り越えが困難で大きなハードルは身体問題とフレーム問題だな、と感じて。それについて山口さんは既に8年前に書かれていたんですよね。8年前は私、AIについて何も知らなかったから、正直『シンギュラリティ・コンクェスト』を読んでも、ストーリーは楽しみましたけど、分からないことだらけだったんです。でも『エクサスケールの少女』を出してから、そういえば山口さんもシンギュラリティについて書かれていたなと思って、本当に久しぶりに本を開いてみたら、やっと作品の様々なことの意味が分かって。「こういう解を当時もう書かれていたんだ!」とびっくりした。

山口:フレーム問題を身体で解決するのは私が初めてではないですが、自分の頭のなかでこねくり回して、導き出した解であるということですね。

さかき:天夢はクオリア空間を通じて世界とつながり、だんだん成長していき、最終的には命になっていく。山口さんは物語で、彼女の成長の過程を書かれているんだと思います。その成長物語の途中でSFらしい戦いがたくさん起こって。私、実は近未来っぽい戦闘の描写って苦手なんですよね。だからうらやましいです。

山口:戦闘描写は人それぞれの好みだと思いますが、まあアクションシーンを入れた方が私は面白いと思っていますから。

さかき:私の『エクサスケールの少女』の創作工程は、簡単に言うと、「人間の愛憎劇エンタメの中に、SF要素を入れ込んでいった」ということです。でも山口さんの『シンギュラリティ・コンクェスト』は逆で、おそらく、すばらしい理論を構築してから、その中にエンタメ要素を入れていっている。冒頭でも言ったように、両作品の創作方法は対極にありますよね。

山口:私は、まずテーマを決めて、そのテーマに相応しい主人公を決めるところから始めますから。

さかき:だから、なんというか、論文がエンタメになってるみたいだと思うんです。

山口:なるほど。まあ少しは考えました。論文のようにというのは。一番初めに課題を書きます。アブストの段階で解まで書いてしまうんですけど、それではおもしろくないので、解は書いてないですが。論文のようにきちんとテーマを書くというのは、最初のところですね。この部分は、シンギュラリティを聞いたことがない人でも、シンギュラリティが何か分かるように、アーヴィング・グッドの言葉を引用したつもりです。

さかき:なるほど、そうなってたんですね。実在の人の言葉と、登場人物の言葉を並べて。

山口:本当っぽく見えるようにね。

さかき:アーヴィング・グッドの名前も、8年前はよく分かっていなかったの。今なら、「ああ、どこかで聞いたか読んだな」って感じなんですが。あとは、そう、私の日頃からの興味に深く関わるところで、古事記からの引用もありましたね。

山口:天夢は要するにアマテラスですから。彼女は兄弟と戦わなければならない。本当の神話では、弟としか戦っていないのですが、この本では、兄とも戦っているんです。兄、というのは、イザナギとイザナミが最初に流したヒルコなんですが。ヒルコって面白い名前だと思いませんか。「日子」とも読める。「日女」とも表現され得るアマテラスに対する、男性の太陽神っぽいというか。実際、そういう説を述べている人がいるんです。『シンギュラリティ・コンクェスト』の巻末の参考文献に書いてるんですけれど(河合隼雄著「神話と日本人の心」)。河合さんの本は好きで、私はたくさん読んでるんですが、この本は特に好きですね。そこに書かれているのが、男性の太陽神であり、河合さんはこれを、中心原理を体現する、合理的な存在であると見做しているんです。それが、イザナギ、イザナミから最初に生まれた「日子」だと。それに対する女性の太陽神がアマテラスであり、彼女はどちらかというと非中心的・非合理的な存在であると河合さんは考察しています。一方、男性の太陽神である「日子」は、合理性・中心原理の権化とされているので、寧ろ唯一神であるキリスト教の神と近いのではないかと。そこで、5章のタイトルは、ヒルコ、日の子と書いて、それと聖書を引用しています。私が引用した聖書のこの部分はキリストを太陽に喩えているんですね。河合さんの考察を取り入れた私の解釈では、天夢が本当に対決しなければならなかったのは合理性の権化である男性の太陽神であり、それが「日子(ヒルコ)」でありメサイア、つまりキリストなんです。

さかき:では、天夢はキリスト教では何になるんですか?

山口:キリスト教だと、まあ天夢は悪魔でしょうね。キリスト教が否定したかったのは、キリスト教以前の多神教の神々なんです。だからキリスト教において悪魔とされている存在の容貌や特徴は、実は、かつての多神教の神々に似てるんです。こう考えると、キリスト教の枠組みでは、多神教の神であるアマテラスを表象した天夢は悪魔となる。彼女の容貌もなんとなくそれっぽくなるように描写しています。赤い目とか、黒い髪とか。最後の対決で、教会のようになっている場面、そこに天夢が侵入してくる。私はここで、どちらの価値がより尊いかという答えは出していません。合理性も非合理性も重要だと思っているので、天夢とメサイアは最後には融合する。ここでいう合理的というのは、キリスト教的な考え方と言った方がいいでしょうかね。まあ西洋的と言ってもいいんですけど、西洋にも昔は多神教がありましたから。

さかき:一神教を否定したいわけじゃないんですけど……私は日本人のせいか、一神教には少し違和感を抱いてしまうというか。古くは、もっと雑多で非合理な存在が、世界の多くの場所で、人間の心を支えてきましたよね。そのある種カオスであった神々と人間との関わりが、人類の歴史が進むにつれて均一的な、分かりやすい善と悪の対決のようなストーリーで塗り変えられているような……。個人的に、それってすごくつまらないことだと思っているんです。日頃から、善と悪って明確に分けられないだろうと考えていますし。私がいつも言っている、善悪二元論の否定ですね。
 でも、そうか、山口さんはそれについても書いていらっしゃったんですね。『シンギュラリティ・コンクェスト』の最後、私はすごく不思議だったの、天夢とメサイアとの関係が。

山口:天夢が主人公っぽく書いているのに、メサイアと一緒になるんですよね。

さかき:そう。まさか最後に一緒になるとは思わなくて。メサイアは登場のときから、救世主としての清廉なイメージがすごくあるんですね。その理由がよく分かっていなかったんですが、いまのお話でよく分かりました。

山口:私は、個人的には、価値観を一つに固定するのがすごく気に入らなくて。メサイアは、物語的にはすごく嫌なやつなんですが、あの場面ではすごく神聖なものとして描いています。「メサイア=敵=嫌なやつ」という印象が読者の中で固まるのを嫌ったんですね。

さかき:私は昔カトリック精神に基づく教育を受けたことがあるのも手伝い、色々な意味で面白かったですね。さっき山口さんがおっしゃったように、メサイアより天夢の方が、外見の特徴やイメージが悪に近い。善き者と悪者が逆の外見をしていて、一方が倒されてしまう。この後どうするのかなと思ったら、最後は両者が合体した。それが『シンギュラリティ・コンクェスト』のストーリーの要というか。

山口:まあそうですね。我が国の根本的な価値観として和がありますね。これはいろいろな価値観を包含していく融通無碍なものなんですが、天夢にもその価値観があります。メサイアは物語の中では悪い存在として描かれていますが、天夢はメサイアもまた人類に必要なものだと考えたんです。だって我々人類をここまで発展させてきたのはメサイアが体現する合理性ですからね。合理性の権化である科学技術がなければ、作中での宇宙の異変であるAUVRという問題も解決できるはずがない。だからそれを否定することはできない。どちらも必要で、どちらも否定するわけにはいかない。ヘーゲル哲学では、テーゼ、アンチテーゼ、アウフヘーベンとも言われますが。

さかき:ええ、私も「どちらも否定できない」ということを意識して書いたんですが、それを山口さんはこういったかたちで書かれたんだなと。8年前に『シンギュラリティ・コンクェスト』を読んだときはこの問題について特に意識していなかったんですが、自分でシンギュラリティの小説を書いてみて、それから再び山口さんの小説を読んでみたら「ああ、そういうことだったんだ! 私たち、同じ価値観を共有してたんだ!」と感動したんです。

山口:ありがとうございます。なんとなく、私もさかきさんには親近感がありますね。

さかき:私は文系だから、山口さんの理系の知識量の豊富なことに圧倒されるんです。私は、より観念的で、情動的で、言ってみればファジイな感性に頼って物語を書いているんですが。似たような問題意識を抱くふたりが、異なる分野の知識と異なる目線を使って描いたのが、『シンギュラリティ・コンクェスト』と『エクサスケールの少女』なのかなと。

山口:多分そうかもしれませんね。本質的なシンギュラリティの解はそのときにならないと分からないと思いますが、いろんな人がぼんやりと考えているシンギュラリティの解というのは、最大公約数的にはこういうものになるのではないかと、そう言ってしまいたいですね。

さかき:私、『エクサ少女』を読んでくだった方に、「次は山口さんの『シンギュラリティ・コンクェスト』を読んでください」と言いたくて。

山口:それはありがたいですね。

さかき:私の小説は、AIやシンギュラリティに詳しくない読者にむけて「シンギュラリティって簡単に説明すると、こういうもの。その問題の解として、こんなものもありますよ」ということを書いているんですが、山口さんの小説は、理系の研究者が読んでも納得しやすいもの。だから二冊をセットでプロモーションしていけば、AI開発されている方はすごく勇気づけられると思うんです。

山口:いや、ありがとうございます。『エクサスケールの少女』も、研究者の方でも納得できる話だと思うんですが。

さかき:ありがとうございます、嬉しいです。なんか日本の研究者の方って、科研費を取るのだけでもすごく大変だとか聞いたことがあって……。世界では状況が全然違って、たとえばグーグルなどは一社だけでもAI開発に非常に多額の投資をしているのに、日本は企業や大学どころか政府すら十分な投資をしていないような気がするんです。私はやっぱり日本に住んでる日本人だから、日本の研究者を応援したいんです。だから、非力ながらも私にできるのは、研究の現状をエンタメにして、世論に訴えていくことだと思って。

山口:国の予算って、たしかに、世論が反映されるので、まあそうですね。経済成長をしないと、予算は一般に増えないので、まずは経済成長が大切かなと思いますが。

さかき:また作品の話に戻りますけれど、『シンギュラリティ・コンクェスト』の中で「アーリー・ラプチャー」という事件を書かれていましたよね。これもすごく分かりやすい例で。天夢が持っている身体、クオリア空間、情動パラメータの三点がいかに大事か、よく分かるシーンでした。それがないと自分という存在がなくなっちゃうんだという。

山口:そうですね……。アーリー・ラプチャーで、意識がなくなるというのは、理由は二つあると思うんです。だんだん身体性がなくなると、自分というものが分からなくなる。身体表面という境界から刺激を受けつつ世界とつながっていくことで、いろんな意思がうまれてくるのですが、その刺激がなくなってしまうことで意思がなくなるというのが一つ。そして、身体表面という境界がなくなることで、自分とその周囲の区別がつかなくなり、自分というものが消えてしまうというのが二つ目。この二つはそれぞれに重要ですが、そうしたことを問うために、『シンギュラリティ・コンクェスト』の中でアーリー・ラプチャーという事件を描きました。実は、この次に書いているアルヴ・レズルは、アーリー・ラプチャーが主題なんですが。

さかき:私、ここのところで、映画『トランセンデンス』を思い出して。

山口:トランセンデンスも、シンギュラリティものですね。最後わけわからなくなっちゃいますが。

さかき:そうですよね! 最初の30分ぐらいは最高に面白かったんですが、だんだんトーンダウンしていって、最後は……。

山口:シンギュラリティを真面目にやろうとすると、絶対に最後わけわかんなくなっちゃう。最後にわけわかんなくなっちゃうというのがシンギュラリティの定義だから。そもそもシンギュラリティの先は、定義上人間が普通に考えても分からないということですよね。特異点の数学上の定義もそうなんですが、今までのトレンドを外挿していって、急に傾きが無限大になっちゃう。定義上ポストシンギュラリティは人間がきちんと予測できない。それが定義ですから。

さかき:私は『エクサ少女』では、事情があり、あえてシンギュラリティをユートピアとして書きましたが。もちろんそういう可能性も十分にありますし、否定できません。でも自分としては、AIについて勉強すればするほど、一筋縄ではいかないなという思いを強くしています。簡単には書けない。

山口:プレシンギュラリティは書けると思いますが。海外でもシンギュラリティものといっても、シンギュラリティから取り残された人しか描いてない。どまんなかのシンギュラリティは、まだ誰も描いていないですね。

さかき:そうですね。『エクサ少女』も実は、本番のシンギュラリティが来る前でストーリーが終わっています。

山口:実は、シンギュラリティが良いものかどうかは分からないと思ってるんです。この本も、「コンクェスト」って書いてるじゃないですか。これは、シンギュラリティによって発生するもろもろの問題を克服するということであり、そもそもシンギュラリティを克服するということでもあるんです。シンギュラリティ後の世界は、定義によれば人間の感覚では予測できなくなる。そもそも人間の感覚が通用しなくなっちゃうんですよ。それっていいの?っていう基本的な問題意識です。つまり、我々が普通に予想できるような未来、それがなくなっていいのかということです。我々が普通に持っている常識が通じなくなる。そうではなく、本質的な人間の価値は維持した方が良いと私は思っています。人間の価値観で予測できるような未来の方が良いと。それは、シンギュラリティの定義からはずれてしまうんです。でも、私は人間の普通の感覚が通用しなくなってしまうのはよくないのではないかと考えています。

さかき:ああ、もしかしたら『エヴァンゲリオン』の内包しているのも、似た問題意識だったかもしれないですね。今思うと。

山口:技術によってそうなるが、シンギュラリティなので、あれは神話的な枠組みでそうなってしまうので、そうとは言えませんが、ある意味ではそうかもしれません。メサイアの方が、正しいシンギュラリティを起こしてるんですよね。人間の常識が通じなくなるような。

さかき:そうですね。何が正しいか、何が正しくないか、という問題も描かれていて。分かりやすく”正しい”シンギュラリティは、天夢でなく、多分メサイアのほうがやっているんだろうなと。

山口:定義上はね。

さかき:でも超知能にとっては正しくても、人類にとってはどうなのかと。人間の倫理についてもあらためて考えさせられる。
 これ、私の考えと山口さんの考えと違う点の、二つ目になりますが……私は「人類の未来は、必ずしも人間だけで担う必要はない」と考えているんです。でも山口さんは「人間は、人間自身の手で発展してきた。だから今後も人間自身で発展していくべきだ」ということにこだわってらっしゃいますよね。

山口:そうですね。人間の定義をどうするのか。人間にはいろんな要素がある。現在のコンピュータに比べれば、既に演算能力が遅いというのもその要素の一つですし、身体を持っているというのも一つの要素です。何がなくなってもいいのか。何がなくなってはいけないのか。演算能力が遅いというのはなくなってもいいと思いますが、身体はどうでしょうか。
 人間性とは何かと言うことでもあります。幸せと感じることが出来る能力、ある意味では非合理的な側面、それを残さないと、人間とはいえないのではないかと。合理的な側面だけではだめだと。

さかき:人間の定義について、私も凄く興味があります。『エクサスケールの少女』でも、主人公の妹である「萌黄」についてエピソードをひとつ用意したんですが。ある事故の結果として、萌黄の細胞の一部と、森の中に生えていた一本の樹木の細胞とが、融合してしまうという場面です。「一本の樹木の中に萌黄の細胞の一部が混ざり残っている、では、その木は萌黄の分身と言えるのか?」という問題意識があって、だからこそこのシーンを入れたんですけれど。
 意識とは何か、何のどこまでが意識と定義されるのか? さらには、命についてですね……命って、一体どこまでが命と呼べるのか? たとえばその個体に意識が存在していればその個体は命なのか、では意識がないと言われている下等動物には命がないのか……?

山口:命――生物というのは自己複製できるというのが定義なので、細菌までは生物ですが、ウィルスは生物ではないです。自立的に自己複製できないので。ま、そこまでが生物として、生物の命を尊重しましょう、となるかと思いますが。そこで考えられるのが、自己複製できるのなら、コンピュータプログラムでも生物になるのか、という問題等だと思います。今までは自己複製できるのが細胞しかなかったんですが、今はそうではない。
 人間の定義にしても我々の身体が複製できるし、心、精神も複製できる、ということになると、定義が難しくなると思います。技術が発展するに従って、我々が、考えるまでもない、と思っていた人間の定義をしっかりしなければならないということです。その問題意識でこれを書きました。

さかき:そういう問題意識は読んでいてよく分かりました。これ、研究者のご講演などで勉強したことなんですけれど、イギリスのバース大学で『RepRap(レップラップ)』というプロジェクトがあって、「3Dプリンターが3Dプリンターを生み出す」のを目指しているのだそうです。このプロジェクトの目標はまさに、機械の自己複製を”ヴァーチャルの世界”だけでなく”フィジカルな世界”でもやってしまおうというもので。つまり「機械」が、我々が知っている「生物」により近くなっていく、ということなんですよね。

山口:3Dプリンターの電子部品まで含めて3Dプリンターで作るのか、単に形だけを作るのかで評価は変わってくるとは思いますが、面白い試みですね。

さかき:それと私、昨年から、ゲームAI開発の権威である三宅陽一郎さんと懇意にさせていただいてるんですけれど。三宅さんも、私がつい悩んでしまっていることについて、非常に深く考えていらっしゃって。だからこそ、AIを開発する研究者の先生方には、それこそまず人間の知性とか、意識とか、そういうことをまず考えていただきたいと思うんです。この人類すべての運命に関わる大仕事を、工学分野だけで突き進めていくのはどうなのかなと。

山口:確かに。人間の定義というのは工学だけではできませんからね。

さかき:私は、三宅さんの持ってらっしゃる問題意識はすごく大切だと思ってるんです。

山口:『シンギュラリティ・コンクェスト』の後に出した、『アルヴ・レズル』や『アンノウン・アルヴ』という『アルヴ』シリーズでは、まさに「人間とは何か」という哲学的な問いを主眼にしています。『アルヴ』シリーズでは、NLNという非常に広い帯域幅で人間の意識と外部の演算資源をつなぐ技術が出てきます。人間の意識が外部の演算資源と接続されて拡張されていく。それだけではなく、人間の意識をアップロードしてもいいし、意識を別の身体に移してもいい。或いは、人間ではない身体になってもいい、という世界です。そうなっていく世界に対して、『人間というのは、こういうもので、これ以外は人間ではない』という定義が必要だという主張を『アルヴ』シリーズでは出しています。そういう定義がなければ何でも人間になってしまいますから。

さかき:おもしろい! たしかに、最近はテレイグジスタンスロボットのような遠隔操作ロボットの発展もあって、意識が一つであっても多くの身体のコピーを持てる世界の入口に入ってきているそうです。逆に、多くの意識が一つの身体を動かす、しかも空間的な制約なく、ということもできるんだとか。
 法学の研究者の方が『TEDxTokyo yz』というところで話していたんですが。近代の法制度は、人間を「身体と人格が、一対一で対応したもの」という前提として扱ってきたけれど、遠隔操作ロボット技術やサイボーグ技術は、そういった近代の法律の世界の、通念や常識を曖昧にすると。だから”人間の定義”は今後、色々な場面で、様々な視点で、揺らいでいく一方なんだと思います。

山口:技術の発展によって、人間がどう変わろうと自由だ、という考えも有り得ると思いますし、人間とはこういうものだと定義してしまうのも有り得ると思うんです。どちらの考えも有り得ると思うんですが、『アルヴ』シリーズではそれを延々と戦わせているわけです。

さかき:何度も言っちゃうけど、山口さんの創作は、論文がエンタメになっているんだなあ。

山口:ま、私というよりSFかな。SFというのはサイエンス・フィクションと言われますが、スペキュレイティブ・フィクションでもある。思弁的なフィクション。論文というのは、ある仮説があって、それを実験で確かめていくというものですが、SFの場合は、それが思考実験になっているんですね。

(【対談(2)】へ続く)



さかき漣プロフィール
山口優プロフィール


さかき漣既刊
『エクサスケールの少女』
山口優既刊
『シンギュラリティ・コンクェスト
女神の誓約(ちかひ)』