「『あるべきシンギュラリティ論』 さかき漣―山口優 対談(3)」山口優

(PDFバージョン:arubekisingularity03_yamagutiyuu
2017年3月某日 渋谷のカフェにて

【本対談の経緯と構成(再掲)】
 昨年10月、さかき漣著「エクサスケールの少女」が刊行された。「エクサスケールの少女」は、シンギュラリティをテーマとした小説である。シンギュラリティ(正確には、『テクノロジカル・シンギュラリティ』即ち『技術的特異点』)とは、人工知能技術やナノテクノロジー、遺伝子技術等の急速な発展により、将来の技術発展の速度と方向性が現在の人間には合理的に予測できなくなる将来のある時期を示す、技術史における概念である。この概念をテーマとした『エクサスケールの少女』は、最先端の科学技術を取り扱う一方、シンギュラリティにおいて重要となる問いである、『人間の本質とは何か』を原初の時代から問い直すために、神話をもそのテーマに含んでいた。
 一方、シンギュラリティと神話というテーマは、2010年11月に刊行された山口優の『シンギュラリティ・コンクェスト』にも共通するものである。同じテーマで本を書き、互いの興味や関心が共通することから、さかき漣と山口優は互いに連絡を取り合い、対談が実現した。
 対談は主に4つの部分から成る。(1)さかき漣から山口優への『シンギュラリティ・コンクェスト』に関するコメント、(2)山口優からさかき漣への『エクサスケールの少女』に関するコメント、(3)互いの小説の好きなシーン、そして、(4)あるべきシンギュラリティについて、である。
 (1)(2)については、既にSF Prologue Wave 6月20日更新版、7月20日更新版にて掲載された。
 本稿では、(3)の部分について掲載する。

【対談(2)からの続き】

さかき:先ほども言いましたけれど、やっぱり私、『シンギュラリティ・コンクェスト』では436頁が一番好きです。ノア派のトップの軍人「シャピエ」が、超知性「メサイア」に解体されて脳を取り出されてしまうところ。

山口:ああ、それはね、やっぱり、超知性というものの怖さをよく分かってなかったんですよ。この人は軍人なので。サイバー戦争のノリでシステムをハックすればいいと思って、やったのだと思います。しかし、それではうまくいかなくて、逆襲されたと。ある種のフランケンシュタインコンプレックスの表現ですね。まあ、彼は、情動が経時変化しないメサイアは本質的に安定していると思っていたんですよ。そうでない天夢は不安定だと思っていたけど。

さかき:「ある対象物が本質的に安定している」って、どこまでいっても人間側のみの認識でしかなくて。カジュアルに言い切ってしまうと、甘すぎる、というか。我々を遥かに凌駕する超知性が主導権を握った時、”本当に何が起きるか分からない”っていう事実を、軍人シャピエは理解していなかった。

山口:問題は情動よりももっと根深いところにあったんですよね。「人間を救う」という抽象的な使命のイメージが、メサイアと人類で全く共有できていなかった。ゴッドフォードはそのリスクを自覚していたから、彼が構築したメサイアというのは、あらゆる偏った見方をするノードをネットワークでつなげて、ネットワーク全体での普遍的な見方を担保すると同時に、それでも全体としておかしな考えに至らないよう、ノード間の通信をモニタリングし、どのような判断が下されるのか、逐一監視する抑制プロトコルを導入していた。シャピエの行ったサイバー攻撃によって、その抑制プロトコルが無効化されてしまった。軍の方で代わりとなる監視システムを入れたのかも知れませんが、暴走をはじめたメサイアによって、それもすぐに無効化された。

さかき:それまでは、メサイアというシステム自体は不安定でも、暴走が抑制されていたということでしょうか。

山口:天夢の不安定さというのは、我々人間と同様、情動が経時変化するために生まれるものですが、メサイアの不安定さというのは、人間の望みと全く異なることを行ってしまうかも知れないというリスクを指します。そのために導入された抑制プロトコルというのは、ネットワーク知能であるメサイアのノード間の通信を監視するというシステムなんですね。メサイアっていうのは、一つの意識があるわけじゃなくて、たくさんの意識が、意識それぞれが統合されないよう、充分に狭い帯域でつながりつつ、一つの結論を出すものです。ただの一つの意識というよりは、意識の集合です。抑制プロトコルは、ノード間の帯域を狭くすること、ノード間の通信を監視すること、それによってどのような判断が下されつつあるのかを把握すること、という、3つの機能を担っていた。それがなくなり、メサイアは各ノードの意識が統合され、ほぼ一つの意識になってしまった。

さかき:世界中に生きている雑多な心、雑多な精神が、ひとつの独裁的な精神に収斂した、という感じですか? キャス・サンスティーンのサイバーカスケード論みたいな。

山口:まあそうですね。

さかき:私はこの486ページのシーンを観るために、ここまで『シンギュラリティ・コンクェスト』を読んできた、という気がします。ショックなシーンって小説に大切じゃないですか。『エクサ少女』で言えば、主人公の妹の「萌黄」が樹木と合体してしまうシーンとか。

山口:ああ、あのシーンも衝撃的でしたね。

さかき:このシーンは「もう絶対にグロにしよう」と決めていて。キャラクターの設定として、萌黄は特異体質の持ち主ということになっており、身体に何らかのダメージを受けると、その直後から凄まじいスピードで修復機能が働き始めるんですね。そのとき傷の在り処、つまり萌黄の細胞壁が壊れた場所に、やはり”生き物の細胞”である木の枝が刺さっていたため、萌黄の身体修復機能の持つ「穴」が露呈することとなる。萌黄の身体は木の細胞もろとも修復をおこなってしまい、両者の細胞は混ざり合って再構築をしてしまったという。
 そう、だから、エピローグに出てくるエピソードで、大きな木が孤児院のランドマークになっている、というのがありますよね。あの大木は実は、萌黄の一部と合体した若木が30年かけて成長した、というものなんです。このシーンを入れることで、あらためて「意識とは? 人間とは?」という問題提起を最後の最後までしてみたつもりです。

山口:科学技術の発展によって、人間とは何か、という認識がゆらいでいくということを表現されたのですね。関連する話で、私が知っているものを挙げると、例えば、遺伝子こそ、人間、あるいは個人を定義するものだという認識があるでしょう。この人は、人間の遺伝子を持っているから人間なんだ、この個人の遺伝子を持っているからこの人なんだ、という。その認識を逆手に取ったアート的な試みとして、ある樹木の、発現しない遺伝子コードの部分に、人間の遺伝子を挿入するということをやっている人がいるみたいですよ。発現しない部分に挿入しただけだから、外観は全く普通の木なんですが、その木の細胞の中には、人間の遺伝子も入っているという状況です。

さかき:面白い。でも萌黄のエピソードや、いま山口さんがおっしゃった樹木の遺伝子操作の例は、生物と植物ですから、これが人間と機械になるとさらに問題は難しくなりますよね。
 人間に”機械的な”部品や機能を加えることで身体のエンハンスメントが進んでいったときに、「人間とは何か」という問題に私たちは必ず直面する。これはあらゆる学問の領域を超えた、広範な答を求めるべきだと思っていて。当然ながら随分な大仕事になるだろうから、実際にシンギュラリティが到来してしまう前に考えておかないと、って思うんです。

山口:人間の個人をアイデンティファイする方法として、ゲノムとコネクトームのセットがあればいいと思ってます。我々は個人を名前でアイデンティファイしていますね。それと同じで、その人がどういうひとかというのを定義するのに、ゲノム情報とコネクトーム情報があればいいと。だってそれ以上の情報はないですよね。

さかき:でもそうすると、AGIとの違いは……。山口さんは、AGIが天夢ぐらいの情動を持ったら、人間との区別つかないとお考えですか?

山口:天夢のようなAGIと人間とで、心の働きについて区別がつかないかどうかという意味なら、つかないと思います。たとえば、彼女が生まれたような時代であれば、人間の精神を複製することはできるようになっていることが予想されます。コネクトームがあれば――最も精密な意味でのコネクトーム、つまり、脳のニューロンのつながりの情報全ての情報があれば――という意味ですが。天夢の心は誰かの複製ではありませんが、基本となる人間の心の働きは、コネクトームの解析によって精密に把握することが可能となり、よって、それを基盤とした人と動揺の心の働きも可能となるでしょう。私は人の心の働きを示すものとして、象徴的にEMPEシステムという言葉を使っています。これは、「エピソード記憶順列化エミュレータ」システムという意味で、エピソード記憶の順列化のエミュレーションとは、末尾に参考文献として挙げた前野隆司さんの本「脳はなぜ『心』を作ったのか」によれば、人間の意識のメカニズムの基盤となるものです。将来的には、ヒトのコネクトームの解析によって、ヒトに共通するコネクトームの要素がゲノムのそれと同じように明らかになり、前野さんの説が検証されるようになるでしょう。いずれにせよ、AGIは人の心の働きを完全に模擬でき、それ以上のことを為せるようになるでしょう。そういう意味では、区別はつくかもしれません。人間より優秀という意味で。しかし、たとえば、情動が足りない、等、人間よりも劣った部分がある、という意味での区別はつかなくなっていくと思います。

さかき:私、『エクサスケールの少女』を出したことで、いくつかのメディアから取材を頂いて。中でも、電子メディア「AINOW」さんのインタビューを受けた際にお話したんですが。その時に取材にいらしたお二人が、ひとりは生物学専攻、もうひとりは心理学専攻の出身だったんです。それで私、工学分野の方でないAI有識者と話ができることが物珍しく、嬉しくて、随分と飛躍したお話も盛り上がったんですね。
 学者先生や研究者の方がいらっしゃらない場なので、自由過ぎる議論をしてしまったせいもあるんですけど……私は、AIについて考えるとき頻繁に取り沙汰される「身体問題」も「フレーム問題」も、たとえば人間の身体を完全に複製し、脳の部分にだけ人工知能を移植すれば、問題は解決できるのでは、とお話したりして。つまり、生物工学の範疇になる感じでしょうか?
 でも無論それには多くの大問題がある。まず倫理的にどうなのか、そして、それだけでないですね、他にも本当にたくさんの問題が……。それに、遺伝子のコピー元である「私」の人権はどうなるのか? クローン側が記憶まで持っているのなら、なおさら問題は複雑になる。言ってみればドッペルゲンガーが増えていくようなもので、「私」のアイデンティティが崩壊していく。

山口:それは社会デザインの問題ですね。我々人類は今まで、「人間とは何か?」ということをあまりにも議論してこなかった。自然に生まれた人間だけが人間であるというナイーヴな定義で問題なかったからです。しかし、社会の基本的構成要素である人間の定義が科学技術の進展に伴って揺らぐなら、社会そのものをデザインし直さなければならない。人間らしさとは何か、ということも真面目に議論しなければならないでしょう。その議論の末に、何が人間らしさかが決まり、それに伴って人間らしさへの冒涜となる要素は社会的に規制される事になると思います。

さかき:確か、エヴァンゲリオンでもありましたよね。キャラクターの綾波レイが「私は3人目」ってセリフを言うシーン。あなたは連続した命ではないじゃないか、とは思ったんですけれど。
 AGIが発達していくことで、われわれ人類にあらたな仲間ができる点には夢や憧れを抱いていますし、個人的にクローン技術には興味があるので、その技術がさらに発展した未来を空想することはすごく楽しいんですけれど。生身の人間、過去の歴史や思い出や趣味嗜好を確立してきた、”生きている人間”の複製がそのまま可能になる、というのは、どうなんだろう? そのあたり、山口さんはどう思われますか?

山口:先ほど述べたとおり、社会デザインや人間らしさの議論の末に決まることですが、可能性としては、そういうことは禁じるということも考えられます。今でも、禁じられている技術はありますよね。核開発とか、ヒトのクローンとか。禁じるべき技術を定める国際的な広範な枠組みが場合によっては求められてくるのだと思います。技術で解決できる問題もあれば、技術で発生する問題もある。技術で解決してはいけない問題もある。それは、人間みんなが議論した上で合意を取るということになりますね。

さかき:シンギュラリティは全ての問題を解決できるユートピアを人類にもたらす、と言う人もいますが……。
 先ほどの人間の複製、コピーの話ですが、今の人権の枠組みでは、コピーした二つの存在に同等の人権を与えなければいけないですよね。シンギュラリティが本当に到来するのであれば、私たちはあらゆるものをアップデートする必要がある。それこそ、我々の社会の常識の全てを、です。ああ、でも、アップデートするというよりは、その前提となった枠組み自体を明確に定義するところから始めなければなりませんね。
 苦痛が人権の裏返しという話も出ましたが、AIやAGI、ロボットに「人権に似たもの」を与えるために、彼らに苦痛を感じる能力をどこまで与えるか、という問題があります。それに、AIら機械……あえて機械と言いますが、機械が苦痛の感覚を得たからといって、本当に彼らに「人権」を与えていいのか、という議論も必要でしょうし。
 早すぎると思う方も多いかも知れないけれど、今から考えておいたほうがいいんだと思います。哀しいかな、議論というのはなかなか進まないのが常で、でも技術の方は幾何級数的に発展していく。少なくない数の方々が、「幾何級数的に発展する」という感覚を理解していない気がして。まだまだ先の話だろうと安心していたら、ふと気付いたら手におえないほど発展しちゃってた、とか。たとえばインターネットもそうだったんじゃないかな? ネットの法整備、ぜんぜん現況に追い付いていないですよね? 
 もちろん、研究者の方々は技術の発展についてすごく夢を持ってらして、それって素晴らしいことだと思うんです。でも、社会の制度とか法律とか、非常に大幅に、それこそ「コペルニクス的転回」的に変えなければいけないことも無数にあるはずだから。
 ところで『ブレーメンⅡ』(川原泉作)という漫画をご存じですか?

山口:未来の星間貨物船の話ですよね? 

さかき:主人公の「キラ船長」という女の子が会社で昇進し、晴れて貨物船の船長になったら、なんと彼女の部下になる船員が全て動物だったという……。あ、前提として、この物語の世界では、すでに動物の知能や身体機能が大幅にエンハンスメントされていて、人間と知的交流が出来るようになっているんですね。仕事で不自由なく関われるだけでなく、人間と動物間で友情を育むことも可能であり、両者が望むなら恋愛も可能だろう、というほど。
 今AGI開発に従事している方や、AI関連の法整備や法学研究に関わっている方々がこの作品を読めば、AGIとの共存社会にどんな問題が生まれてくるかについて、カジュアルながらも、面白いヒントが得られると思います。

山口:私、この本は知っていて……というか川原さんの作品は全般的に好きなので。結構読んでますよ。

さかき:私は川原さんのファンなので、作品は全て読んでるんです。その中でも『ブレーメンⅡ』は異色だったので強く印象に残っていたんですが。AGIのことを書き始めたらますます、「人類とAGIとが共存する未来を考えるとき、これはすっごくヒントになる作品だ!」と気づいて。

山口:いや、そんな風には読んでなかったですね。貨物船がいて動物がいて、……という。また読み返してみます。

さかき:人権に似た動物権、つまりアニマル・ライツの話とかも出てきて。先ほども少し、動物の権利主体性に関する倫理学者のお話をしましたが、AGIが生まれたときの人権等を考えるときのヒントのひとつになると思います。

山口:そうですね……。権利というものは、何に対して与えられるのか、ということが問われているのでしょうね。権利が人間にだけ与えられて動物に与えられない理由は何か。我々は、人間というものは、動物の中で一番知性を持っていると信じています。そして、権利は、知性を持つがゆえに与えられているのだと。しかし、同じ生命なのに、人間には権利が与えられて、動物には権利が与えられない。それを、知性の違いに由来するのだとすると、人間より知性があるものは、人間以上の権利が与えられることになる。

さかき:そうですよね。野放しであれば恐ろしいことが起きてしまうのは当然のことであって。けれど、そのあたりを突っ込まれている方が、まだまだ少ない印象です。だから私、ことあるごとにこの『ブレーメンⅡ』の話を出していて。そのあたりのことも考えてください、と。

山口:人工知能学会には倫理委員会というのがあったと思います。そう言う話はそのあたりでされるのが一番いいのかもしれないですね。

さかき:人工知能学会、入ってるんです! 『エクサ少女』を書けたことのお礼の意味で、今は賛助会員をしています。本当に微々たるものなんですけど。

山口:ああ、そうなんですか。それだったら是非。

さかき:技術の進み具合に比べて、こういう議論ってなかなか進まない気がして仕方がないので。ぜひ進めて頂きたいです。

山口:そうですね。政治はなかなか進まないですよ。

さかき:ですよね。だから、夢みたいな、現状の物理的な悩みは解決されるけれども、また悩みは新たに生まれてしまうわけで。

山口:まあ、可能性というのは良い面もあれば、悪い面もあって。我々は新しくすごく莫大な可能性を切り開こうとしているわけですが、いい面を夢見るっていうことと、その良い面の裏返しである悪い面をなくすっていうのは、やっぱり両方とも考えていかないといけないですね。要するに、倫理に関する議論を進めなきゃいけない、という議論ですが。私は人間の定義と呼びたいけど。

さかき:シンギュラリティに大いなる夢を見ている方には言いにくいけれど。この研究を進めていくにつれ、やっぱり、人間はAIに近づいていって、AIは人間に近づいてくる。文明の発展に伴い、「創造主」である人間と「被創造物」である機械が融合していく、とも言えますよね。
 私は頻繁に「新しい命・仲間が生まれる」という肯定的な表現をしていますが……でも仲間だと思っていた相手が、自分たちより異常に知能が高かったときに、私たちが彼等にどう扱われるのか、という恐れは否定できないわけで。

山口:そうですね。天夢は最後に、自分は人間だと宣言してるんですね。天夢の人間宣言です。それは、超知能である天夢が人間のようになるという意味ではなくて、人間が天夢のような超知能になるということです。天夢のように、というのは、知能は発達しているけれども、身体は人間のまま。他人と自分は別々の存在で、情動を持っていて、その情動は変動していく。それは、人間と交流するために、最低限これだけは天夢に持っていて欲しいと榑杉が考えた要件なんです。天夢はそれを逆手にとって、人間が人間であるための最低限の要件は、榑杉が自分に与えたモノだろう、と考えたわけです。繰り返しになりますが、天夢――天照大御神としての彼女が、自分は人間だと宣言しているのは、実は逆であって、神が人間になるのではなく、人間が神になるということなんです。但しそれは、キリスト教の神ではなくて、多神教の神なんです。つまり、情動を持っていて、悩みもすれば怒りもする、そういう神です。

さかき:そこは私と山口さんの考えが違うところですよね。カール・セーガンの『コンタクト』が好きというのもあるんですけど……私、宇宙には創造主というか、神というか、とにかく人智を遥かに超えた絶対的な存在がいるんじゃないか、という空想を愛しているんです。
 子供の頃カトリックの教育を受けたせいもあり、私は今でも教会に行くのが好きだし、聖歌を聴くと心が洗われる気がする。でも日本人だから神社も大好きで、鳥居をくぐって神域に入り、本殿へ向かう中途の林の中を歩いたりすると、その荘厳な雰囲気に圧倒されそうになる。おそらく私には、「われわれ人間は小さく、無力な存在だ」と認識させてくれるような、何か絶対的なものがあってほしい、という強い欲求があるんです。
 だから、人工知能が機械として、つまり人間から道具のように使われ、人類が今後も地球の王として君臨していく未来予想図よりも……なんというか、もっと崇高な、絶対的な存在として超知能が生まれてほしい、という思いもあるんですよ。ちょっと破滅思想みたいで、人前では言いにくいんですけれど。

山口:ある種の神、ですね。キリスト教の神のようなイメージです。

さかき:そういう絶対的なものが存在する予感があるからこそ、未知の事物や現象への憧れ、解明したいという熱意とか、知りたいという欲求など、様々なプラスの感情が生まれる面もあると思うんです。ある人にとっては、それが自分の生きる目的になったり。フェルマーの最終定理が、数学者の熱意を導き出したような。

山口:うーん。数学者の考え方と、キリスト教信者の考え方はちょっと違うと思いますね。数学は、発見すればするほど、また新しい問題が出てくるんですが、問題は絶対のものではない。いつか解決すると思っている。キリスト教信者は、いつか誰かが、神を乗り越えるとは思っていない。

さかき:あ、私、少し言葉足らずでした。説明が足りませんでしたね、えーと……カール・セーガンの『コンタクト』、映画でなく小説版を読まれたことはありますか?

山口:いや、ないですね……。

さかき:『コンタクト』は、主人公の女性・エリーが”宇宙の絶対的な存在”を求める話でもあるんです。エリーは科学者ですから、合理性というか、「理性」を駆使して、これまでの人生をやってきたんですが、「悟性」でしか理解できない絶対的な存在を許容して、ラストを迎えるんです。
 いま、許容、と言いましたが、かなり抑えて言葉を選びました。これは私の解釈に過ぎないので、もしかしたらカール・セーガンの意図とは異なるかも知れませんが……主人公エリーは、「悟性」で感じるべき神の実在を、「理性」で解するべき事象の中に見るんです。それが『コンタクト』の真骨頂だと思っているんです、私。

山口:キリスト教の神というのは、カオスとロゴスで言えばロゴス側で、キリスト教的な哲学では、私の理解では、神が創った世界というのは、非常に整然とできていると考えられている。だから、ルールに則って介入すれば、人類が世界に対して働きかけていくことができると考えられている。そういった考え方は、多神教の哲学、即ち、世界は曖昧模糊としたものであって、一定のルールというものはなく、時に激しく、時に穏やかであるようなものである、という、考え方とは際だって異なっています。
 但し、そういうキリスト教における世界のルールを、誰が作ったのか、という点で、キリスト教徒数学をはじめとする科学は違いますね。ルールが無人格のものなのか、人格のある神が担うものなのか。それがキリスト教的な哲学、つまり、自然を支配するルールがある、という考え方の中での対立でしょうね。
 人間原理という考え方があります。それは、宇宙の様々なパラメータが、人間という存在が成立するように絶妙に調整されているということなんですが、それを以て神がいるという人もいれば、宇宙は無数にできるものなので、その中にたまたまパラメータがうまく調整されているように見える宇宙があって、そこに我々が生まれただけだという人もいる。最初は、キリスト教的な整然としたルールで自然が成り立っているはずだ、と考えていたはずが、それを推し進めていくと、神の存在も必要なくなるということです。キリスト教の中でもそういう対立はあります。でも、それら二つはルールの存在を想定しているという意味では似通っている。それらから更に離れているのが多神教ですね。

さかき:多神教的な考えの方がいいだろうな、というのは山口さんと同じだと思います。でも私、「多神教の神では為し得なかった、スペクタクルを見てみたい」という強い思いが自分の中にあるのを否定できないんです。
 つまり、絶対的な善、絶対的な正義、などを断じる存在はこれまでの地球上では、いかにしても無理でした。が、その謂わば”絶対的な裁定者”が世界に生まれるという奇跡を見てみたい、という欲求が、依然と私にはあるんです。「なんと人間は愚かな生き物なんだろう」と日頃から思っている私だからこそ抱いてしまう、ファンタジーなんですけれど。
 でも現実には”絶対的な善”なんて存在不可能と分かってるし、多神教的な考えが現世の私の生に合っているとは思います。その傾向は『エクサスケールの少女』にも出ていますね。たとえば萌黄が死んだ時、登場人物らは様々なアプローチで萌黄を弔っているんです。一斤(いっこん)ら家族が曹洞宗のルールに則って葬列を組んで歩を進めたり、ベトナム人のマイが祖国の仏教での弔いのエピソードで青磁を励ましたり。他にも、千歳が禅宗の経を唱えて、萌黄の魂を救済している、というシーン。隕石が落ちてきて、隕石の欠片の一つ一つから萌黄の声が聞こえる、つまりは萌黄が隕石の欠片として地球にばらまかれて、彼女は地球の一部となっていく、というシーン。さらには、萌黄の細胞が樹木の細胞の一部として生きている、というシーンもある。いろんな考えや側面によって人の死を弔っている、ということを書いたつもりです。

山口:人の弔い方の多様性みたいなものでしょうか。人の死をどう理解すべきか。人の意識がいろんなものに宿る、という考え方ですかね。

さかき:さっきもお話したように、命とは何か、ということにすごく興味があるんです。意識の存在が命なのか、身体機能が残っていれば意識はなくても命なのか、記憶の集合体は命なのか、遺伝子情報は命なのか。私には結論が出ないから、様々な可能性を物語に仮託して書いてみたということです。

山口:人間を構成する原子があるじゃないですか。でもそれは、二三月ぐらいで入れ替わってしまう。ものを食べることで新しい原子を取り入れているわけですから。だから人間の本質はパターンなんです。我々の中の遺伝子が、原子、っていうブロックの配列を決めている。だから新しいブロックを手に入れて置き換えても、我々は変わらない。我々は、我々を構成しているブロックで定義されているわけではなくて、ブロックの配列を定めているパターンで定義されているんです。その考え方を推し進めれば、我々は何から構成されていてもいいことになる。情報、ビットでもいいし、原子でもいい。
 
さかき:隕石の落下で飛散した萌黄の欠片たちは、萌黄ではなくなっているとお考えですか?

山口:構成要素がなんであっても、萌黄のパターンが萌黄のそれであれば、萌黄になる、ということですね。

さかき:クローンで萌黄を復活させるというのもありましたね。でも青磁はクローンを破壊してしまう。萌黄と同じ遺伝子情報を持つ身体でも、そこにたとえ萌黄の記憶を漏らすことなくアップロードしたとしても、”青磁の唯一無二の萌黄”は、あの日々を共に生きた、ひとつの個体でしかない、と青磁は考えたから。
 でもその後、青磁は、隕石の落下を見て、「萌黄は死んだのではなく、隕石の欠片として地上に散らばり、地球の一部になったのだ」と納得するんです。でもエピローグでは、萌黄は木の一部になって生き残っている。結局、答えは出ない、ということを言いたくてこういうオチにしたんですが。でも細かすぎて、この問題に興味がある人でないと、なかなか気付かない仕掛けですよね……。

山口:なるほど……。気付きませんでした。宗教における弔いって、その人が終わったということを認識させるためじゃなくて、その人が続いているということを納得させるためにあると思ってるんですよ。例えば、仏教では、仏になるのであって別に死ぬわけじゃない。仏様の近くで修行をすることになるだけだと。人間は大昔から、人間の死を受け入れることができなくて、人間が何らかの形で続いていると思いたがる。だからお葬式というのは全部そういう形式なんですけれど、だから、隕石に魂が宿っていると思うのも、まあそういう形式の新しい形なんですかね。
 いずれにせよ、人の終わりはどうやって決めるのか、それとも終わりはなく続いているのか、というのは、人の本質は何かということを決めない限り決まりません。私は人間の精神の本質となる特定のパターンをAGIに実装することで、人工知能も人と同じになるのではと考えています。さかきさんの価値システムもそういうものだろうと思っているのですが。
 そういえば、さんざん出ている話なんですけど、価値システム、良心の話ですが、青磁という一人の人間がいて、彼の良心を学んだことで、KIRAが良心を知る。こういうパターンの他に、何か別の、良心を知るという形を構想されてましたか?

さかき:AIが良心を知る、という問題についての解決の前に……まず主人公の青磁は単純に自分の中の価値システム、つまりは生まれ持った情動のシステムをBMIによってロボットKIRAの中に流し込み、自分の情動のシステムに則ったシンギュラリティを起こします。そして世界初の超知能の誕生を見るわけですが、この超知能は青磁の情動に沿っているから、青磁の精神状態の如何で、悪にも善にも中庸にもなり得る。
 私、『エクサスケールの少女』を書こうと思って構想を練り始めた当初から、「主人公とAI搭載ロボットがBMIで繋がり、それによって世界初のシンギュラリティが起こる」、これを絶対にやろうと決めてたんです。実際に研究に当たられている方々は、それこそ様々な形を想定されていると思いますけれど、あえて私は、シンギュラリティを、青磁という男の子の周りだけで孤独に起こしたかった。それも、彼が幼少期を過ごした和室の中だけで起こしたかったんです。

山口:まず限定された空間でシンギュラリティを起こすと。

さかき:青磁は、幼い日に親に捨てられて以降、すっと”本当の自分”と”自分の家”を追い求めてきたんです。
 親が失踪したのち、劣悪な環境の養護施設に突っ込まれ、それから裕福な里親に引き取られはしたけれど、青磁の心に平穏が訪れることはなかった。彼は常に「いつか妹の萌黄と一緒に、大きい家で幸せに暮らすんだ。誰からも孤児と馬鹿にされず、お金も地位も名誉も手に入れ、世間を見返してやるぞ」と自分に言い聞かせ、その負のパワーによって自分自身を支えてきたんですね。
 でも、唯一の家族であった萌黄、最後に残った希望であった萌黄が死んでしまった。青磁はまたも自身のアイデンティティの崩壊の危機に直面するんです。彼の個人的な思いとして、妹の病気を治したかった、その為にシンギュラリティを起こしたかったわけですが、その妹が死んでしまった今や、青磁はもう一度生まれ変わる必要があった。
 目標を立てた地で、目標を立て直す。あの、京都・下鴨の住宅街に建つ、一斤邸の和室は、彼ら兄妹にとっては母親のお腹のような役割だったんです。だから青磁のシンギュラリティを、私は、どうしてもあの和室で起こしたかった。
『エクサスケールの少女』を読了された方には既知のことと思いますが、青磁はストーリの中で、シンギュラリティを二度、起こします。しかし一度目のシンギュラリティを起こすとき、彼の心は憎しみや怒りに支配されていたため、ここでは悪魔として生まれ変わってしまいます。悪魔ですから当然、多くの罪を犯すことになる。言ってみれば青磁は、”悪意のシンギュラリティ”を起こしたわけですね。
 しかし、千歳が青磁の辛さを労り、彼の傷、罪、過ち、等々すべてを認め、受け入れてあげて、青磁のすべてに赦しを与えた。ある意味、母になってあげたわけです。だから青磁はまた、生まれ直すことができた。そして今度こそ、”善意のシンギュラリティ”を起こすんです。
 大きなネタバレになっちゃうけど、もとより青磁は、スサノオノミコトの生まれ変わり、という設定にしてあります。『エクサスケールの少女』は、主人公の生まれ変わりを、読者が何度も何度も目の当たりにする、というファンタジーでもあるんです。幾度も輪廻転生を繰り返し、その度ごとに成長する男、青磁。彼の最後の生まれ変わりの場所は、千歳の子宮になりました。

山口:すごく神話的だなと思いますね。神話の主人公って、象徴的な意味で、必ず一回死んで生まれ変わるんですよね。それは、今までの自分の否定と、新たな力の獲得を意味するんですが。アマテラスも象徴的な意味では一度死んでるんですよ。スサノオがやってきたときに、岩戸にこもって、世界から姿を消してしまった。これは日蝕の比喩ですが、神話の主人公としてのアマテラスの死と再生のエピソードでもある。

さかき:そういう説もある、と。

山口:ええ。天夢も、まあ死んだわけじゃないんですけど、2回、擬似的な死と再生を経験している。一度目は基地の中で自分一人の空間にこもってしまったとき、二度目は敵に頭脳であるポジトロニック・ブレインをやられて、もう、ロボットとしてほぼ死にかけたんですが、また復活した。

さかき:お話しすればするほど、似ている部分が多いって感じます。

山口:そうですね。面白い。もう一つ似ているところを挙げると、私の本の主人公の榑杉、もともと物理学者なんですが、人工知能の研究に転向してるんですね。それと同じように、青磁君、もともと医者だったのが、人工知能の研究に分野を変えているから、そこも似ているな、と。

さかき:ああ、そういえば。どうしてみんな人工知能に興味を持つのかな?

山口:それはまあ、お書きになっているとおり、萌黄ちゃんの治療が現状の医学の進歩では間に合わないから、人工知能に頼るということになったのではないかと思いますね。榑杉の場合も同じです。彼等には解決しなければならない宇宙の謎があった。しかし通常の物理学の進歩では間に合わなかった。そういう、何かしら共通の枠組みが、私たちの本にはあるのではないか、という気がしますね。解決したい課題は違うのだけれど、シンギュラリティの本質というよりは、物語のテクニックとして、何かを解決したいという強い欲求があって、――私の本の場合は宇宙論的な危機ですが――その解としてシンギュラリティが出てくる。

さかき:各章の冒頭で(宇宙論のことが)書かれてますね。

山口:そうですね。私はSFにおいて主題となるテクノロジーは一つの本で一つぐらいだと思っていて、この本では人工知能が主題なので、物理は脇役にするしかなかった。しかし、宇宙の問題がある、と書くだけでは信憑性がない。そこで、本文では書かないけれど、各章の始めに書いたわけです。まあ、理解できる人だけ、なんとなくこんな感じなのかな、という風に分かってもらえれば、と思って。ここに引用している論文誌も実在するもので、たとえば、フィジカル・レビュー・レターズも実際にある雑誌なんです。現在のペースで出たら、この年にはこの巻になる、という。フィジカル・レビュー・レターズは、速報性重視のものなので、この種の論文だと、レターズに載るかな、とか。冒頭の引用は全部、論文のアブストの体(てい)で書いてるんです。とにかく、フィクションだから嘘なんだけど、何らかのリアリティを持たせたかったので。ずっと物理論文や、物理関係の内部報告書が続くんだけど、たまにネイチャー・ニューロサイエンスとかが入ったり。このネイチャーの論文は、機械による知能のエンハンスメントには「自我の拡散」という問題が伴う、それでアーリー・ラプチャーという事故があったんだけど、それが解決しましたよという内容なんです。この本では、ラストで人間の知能を天夢のようにエンハンスしなければならない。だから、「自我の拡散」の問題は解決しましたよ、という論文を入れなければいけなかった。こういうリアリティとイマジネーションの両立は、SFならではだと思うんですね。現代を舞台にした小説だと、リアリティはありますが、イマジネーションの余地がない。ファンタジーだと、イマジネーションはありますが、リアリティはない。
 
さかき:私はファンタジーが専門ですから、SFならではの尤もらしさを語るべき部分では執筆に苦労しました。青磁がシンギュラリティを起こした以降は、あえて「何でもあり」のハチャメチャ感を出すよう意識したので、かえって楽な仕事でした。

山口:まあ私は、SFだからといってあまり荒唐無稽にはしないようにはしないようにと思っています。全て、現実に開発されている科学技術の延長線上なんだよという風に描いています。それが私の考えるおもしろいSFですから。だからポストシンギュラリティは難しい。現代の科学技術の延長線上にないですからね。そう考えれば、我々の本は、二つとも、言いたいことは同じなのかな、と。全く別の表現で、全く別の人が、同じようなことを言ったというか。

さかき:一つ違うのは人間への見方ですよね。先ほども話したとおり、私は人間を愚かだと思っているから。
 だから私の小説に出てくるキャラクターは、みんなどこか歪で、物理的のみならず精神的にも問題を多く抱えている。愚かで過失だらけの存在たちが、目の前の問題にどう落とし前をつけていくか、というのが、私の創作における長らくのテーマです。

山口:そうですね。私の小説の中にも、結構愚かなことをやっちゃったり、という人はいると思いますが、みんな、自分が信じている中では善くあろうとしているとは思いますね。

さかき:『シンギュラリティ・コンクェスト』では、ほとんどのキャラクターが善くあろうとして、熱意を持って動いていますよね。少数を除いて。

山口:いえ、例外なくみんなそうですよ。

さかき:みんな? でもフランス人の将軍シャピエは、結構クズというか。

山口:でも、よく読んでみれば彼の懸念は当然なんです。本当に、尤もな話なんです。見方によっては。天夢というのは不安定なんです。それに人間の未来を任せるのはそんなに正しいことなんでしょうかね? 私の本ではうまくいったから良かったものの、変動する情動に任せるわけですから、どうなっていたか分からない。激情に任せてむちゃくちゃになったかもしれない。「子育て」に失敗したらむちゃくちゃになる、という賭けだったわけです。

さかき:賭けに勝ったわけですね。

山口:そうです。安全を取って、最適解じゃない局所解で収めるか、真の最適解を追求するか、その違いでしょうね。エデン派の中でも、議論があったはずです。途中でゴッドフォードが「あんな危ないのに任せていいのか」と言ってますし。

さかき:ゴッドフォード、そう言ってましたね。

山口:我々二人には多くの共通点がありつつ、違いも明白で面白いですね。善を目指す人間だけを描くか、悪を目指す人間も描くか。或いはこれは、人間に対する楽観的な見方と悲観的な見方の対比なのかもしれません。しかし、シンギュラリティの議論では、いずれの視点も必要なのかなと思います。我々二人の二つの異なる視点から、次は”あるべきシンギュラリティ”について、語ってみたいですね。

【対談(4)へ続く】



さかき漣プロフィール
山口優プロフィール


さかき漣既刊
『エクサスケールの少女』
山口優既刊
『シンギュラリティ・コンクェスト
女神の誓約(ちかひ)』