「『あるべきシンギュラリティ論』 さかき漣―山口優 対談(2)」山口優

(PDFバージョン:arubekisingularity02_yamagutiyuu
2017年3月某日 渋谷のカフェにて

【本対談の経緯と構成(再掲)】
 昨年10月、さかき漣著「エクサスケールの少女」が刊行された。「エクサスケールの少女」は、シンギュラリティをテーマとした小説である。シンギュラリティ(正確には、『テクノロジカル・シンギュラリティ』即ち『技術的特異点』)とは、人工知能技術やナノテクノロジー、遺伝子技術等の急速な発展により、将来の技術発展の速度と方向性が現在の人間には合理的に予測できなくなる将来のある時期を示す、技術史における概念である。この概念をテーマとした『エクサスケールの少女』は、最先端の科学技術を取り扱う一方、シンギュラリティにおいて重要となる問いである、『人間の本質とは何か』を原初の時代から問い直すために、神話をもそのテーマに含んでいた。
 一方、シンギュラリティと神話というテーマは、2010年11月に刊行された山口優の『シンギュラリティ・コンクェスト』にも共通するものである。同じテーマで本を書き、互いの興味や関心が共通することから、さかき漣と山口優は互いに連絡を取り合い、対談が実現した。
 対談は主に4つの部分から成る。(1)さかき漣から山口優への『シンギュラリティ・コンクェスト』に関するコメント、(2)山口優からさかき漣への『エクサスケールの少女』に関するコメント、(3)互いの小説の好きなシーン、そして、(4)あるべきシンギュラリティについて、である。
 (1)については、既にSF Prologue Wave 6月20日更新版にて掲載された。
 本稿では、(2)の部分について掲載する。

【対談(1)からの続き】

山口:私の方からの感想を言わせてもらおうかな。小説において、「シンギュラリティ」という現象をどう表現するかと言うことについて、私も悩んでいたんですけど、中盤あたりで、画像圧縮プログラムをすぐに作っちゃった、というのがあるじゃないですか。あれは面白いと思いました。
 プレシンギュラリティもので、シンギュラリティを描くときは難しいんですよね。人間にはできないことを表現しなければならないから。私の場合は、理論物理学者を出して、彼等がとても思いつかないことを天夢が思いつくという構成にしました。でも、まあその、それって、理論の人じゃないとよく分からない。画像圧縮だとみんな分かるからすごいなと。

さかき:これは、NTTメディアインテリジェンス研究所やGoogleで実際に行われた研究についてのニュースを参考にしました。このエピソードを作中に入れれば、シンギュラリティについて何も知らない人でも、漠然とそのイメージが掴めるんじゃないかと思って。ですから執筆のかなり初期の段階から、このシーンを入れようと決めていました。勿論ここで描いているのは「AIの知能爆発」というよりも「自律的に自己改良していくAI」のデモンストレーションのひとつに過ぎないのですが、それでも、どなたでも想像しやすいネタだと思って。画像圧縮技術なら多くの現代人に身近なことですから、どんな奇跡が起こったのか分かりやすいですよね。

山口:なるほど……。NTTのは分かりませんが、Googleのはきっと彼等が開発しているニューラルネットワークの「TensorFlow」を使ってJPEGの圧縮率を超えたという研究ですね。ニューラルネットワークは本質的な特徴量を中間ノードに獲得して音声や画像の情報を圧縮するのに優れた特徴を有していますので、そういったことは可能かと思います。画像圧縮って本来たいへん難しい技術なんですよ。人間の感覚に通じていないといけないので。しかし、ニューラルネットの本質的な特徴を中間ノードに獲得するという能力は、まさにこうした「人間の感覚」に近い物がありますから。近年の、人間の能力に近づきつつある人工知能の発展を特徴付ける一つの成果と言えるでしょう。一方で、この話は分かりやすいですよね。画像圧縮は一般の人でも普段からよく使う技術ですから。一般の人への分かりやすさと、近年の人工知能の発展の本質をとらえることを両立させた、良いシーンだと思います。

さかき:私は文系だから特に思うのですが、理系の知識の少ない読者でも状況を理解できることが大切だと考えていて。絵で分かる、シーンで分かる、ということを意識しました。

山口:なるほど。後はこのあたりかな。宗教について、かなり言及されているじゃないですか。人間は老化がなくなるとか、合理的に考えればいいことのように思えるが、それが、人間の精神に後戻りできない変化を与えると。これは面白いテーマですね。

さかき:身体があってこそ人間は人間である、と考えたときに、身体の老化をとめてしまった存在は、はたして人間と言えるのか。人間の能力がエンハンスされていけばいくほど、どんどん本来の人間の姿から離れていく。言ってみれば人間の歴史は「動物から離れ、機械へ近づいていく」というか。老化もしない、苦痛も感じない、と人間が変化していくならば、人間と機械の差は縮まるばかりで、最終的に両者の差異はどこに残るのか。そういう未来が来ることを否定できない時代に入っている私たちが、人間が人間たるための条件について考えておくべきではと。そのひとつの要素が、宗教や信仰、神への漠然とした憧れ、などに関わっていると思うんです。
 以前から私は、宗教について様々な思いを持っていて。今の自分自身には信仰している宗教はないのですが、人間が過去数千年以上にわたり神を求め、多くのひとが何らかの信仰と共に生きてきたことは、”必然”だったと考えています。ですから『エクサ少女』では、あえて多くの登場人物を、一応は何らかの宗教に属している、もしくは関わりがある、という設定にしました。まあ私は日本人だし、個人的に神道と仏教、特に禅の考えに興味があるので、そこをクローズアップして物語に組み込んだんですけれど。そういえば禅宗は、外国の方にも影響を大きく及ぼしていますね。現代の有名どころでいくと、スティーブ・ジョブズやデヴィッド・ボウイ。
 それに私がトランスヒューマニズムにも興味を持っている、という事情もありますね。これは現状はSFの話みたいですけれど、人間の死後について考えあぐねた結果でもあるという点では、宗教とも通ずると思うんです。当然ながら死生観や死後の弔いとは、死んでいった人のためのものではなく、生き残っている側の人のためにあるものだと思います。生きている命、生きている存在が、死んでいく命や死んでいった存在についてどう考え、死をどう受け止めて、残りの生を過ごしていけばいいのか? 本来は不可避であるはずの死を、人類が乗り越えるために何ができるのか……。
 医学や科学技術などについて考えることは、実は宗教や精神論と重なっているという。私が本作で強く訴えたかった点のひとつですね。理性を突き詰めていくことが悟性の極致に重なっていくという、ぞくぞくするような光景! あくまで私見ですけれど。

山口:医学等の応用学問は、科学によって得た自然法則の知識を何らかの目的で活かすということで、その目的とは、究極的には可能な限り長生きしたり、或いは死を超越したりといった、人間の願望に直結しています。それが実現すれば、当然死生観の変容も起こってくるでしょう。
「エクサスケールの少女」で、他に面白いなと思ったのは、医学的には苦痛を無くすことがいいが、それで宗教はどうなるんだという話ですね。私はこれを読んだとき、ある言葉を思い出しました。マレー・シャナハンという方の書いた、「シンギュラリティ」にあった言葉ですが、「人権というのは、苦痛を感じる能力の裏返し」というんです。

さかき:ドミニク・チェン先生が翻訳された本ですよね。

山口:現在機械には人権はないけれど、じゃあ「苦痛を感じられる機械」をもし仮に作ったとしたら、そうした機械は人権を享受する権利を主張できるのか、というのは非常に興味深い問いだと思います。その前提として、苦痛を感じる意識を実装する必要があるでしょうけれど。

さかき:これも、私が日頃から考えている「命とは、意識とは」という疑問につながっています。未来社会において、『シンギュラリティ・コンクェスト』でいう「情動パラメータ」や「クオリア空間」、『エクサスケールの少女』でいう「価値システム」が完成されて、AGIと人間が共存するようになったとき、「人権」というよりも「人+AGI権」というものについて考えなきゃいけないと思うんです。
 当然ながら現代人は、機械を機械として、命ではない存在として見ている。今もAGIに関して様々な考えがありますよね。「AGIが情動のシステムを持ったほうがよい」という考えと、「AGIに情動を持たせず、あくまで高性能な機械でいさせるべき」という考えと。こういった学術的な論争について、私が口を挟むことは絶対にないのですが。ただ私は、夢想家の夢として、情動を持ったAGIの出現が見てみたい、と強く思っているんです。
 人間って不思議な生き物で、寂しいという感情を持っているから、自分と”知的な”交流が出来る存在を常に求めている。たとえば私が寂しいからという理由でネコを飼ったとして、寂しさは解消されるのか? それは、もちろんある程度は緩和されるでしょうけれど、寂しさはやっぱり残ってしまうと思います。自分の寂しさを埋めてくれるパートナーとして選ぶなら、それはネコやイヌよりも、家族や恋人のほうがいいと本心では思うし、私と同じように感じる人は多いと思います。その理由はおそらく「人間同士ならば、言葉や行為による交流ができ、意思の疎通が図れるから」ではないでしょうか?
 AGIが生まれるとき、人類は、初めて新しい命を自分たちの手で創り出すことになるんだと私は考えています。遺伝子操作やクローン技術などによる新しい生き物の生成は、もともとあったものを利用して再構成するようなことで、新しく創り出したものではないですよね。しかしAGIは違う。人類が初めて、設計図も案内人もないままに、無機物を材料にして「有機物のようなもの」を創り出す、それがAGIではないかと。それほどの大事件によって生まれる赤ん坊が、情動のシステムを持たない存在で良いのか?
 人間ではない”もう一つの新しい命”、もしくは”意識を持つ、新たな存在”が欲しい、という気持ち。私が抱くこの気持ちは、本能が叫ぶ声ではないか、と感じてしまう。

山口:そうですね。遺伝子工学が形而下で自然界の仕組みを真似たものだとしたら、現行の人工知能技術は形而上の自然界の仕組みを真似たものということはできるかもしれません。使用している物質は有機物と無機物という違いはあれ、ニューラルネットワークという情報の流れの仕組みは同じですから。しかし、形而上で真似たものは形而下で真似たものとは大きく異なるというご意見も分かります。
 それから、情動というお話がありましたが、これは価値判断の基盤です。人間の労働というのは肉体労働はどんどん少なくなっていくけれど、判断の主体としての人間はそれでも必要とされる。判断を下していくというのも労働の一種でしょう。機械によって人間の労働を完全に代替しようとすると、私は機械が主体的に価値判断をせざるを得なくなってくると思う。一方で、単に人工知能を人間の思考の延長とする場合には、人間はずっと労働を続けることになるが、人工知能によってエンハンスされ、生産性は飛躍的に上がるでしょう。その場合は、機械には情動は要らない。情動は既に人間が持っていますからね。どういう道を選択すべきか、というのは人間社会全体の選択であるべきであって、学術的な論争に閉じるのは寧ろ好ましくないと思います。
 社会全体で決めるべきことであれ、前者と後者、どちらになるのだろうか、というのは私にとっても大変興味深いところです。私は結局のところ、人間が自らの主人としてこれからも生きていくためには、後者になるべきなのだろうと思っていますが。ただその場合、問題になるのがどこまで人間的な要素を残しておくべきか、ということです。苦痛は人権の前提条件だという、シャナハンの本を先ほど引用しましたが、それにも関わってきます。あらゆる苦痛からの解放って、人間の夢じゃないですか。『エクサスケールの少女』の主人公も医者だから、特に後者、肉体の苦痛の解放を目指しているのだと思いますが、それを本当にやってしまったらどうなるんだろう、というのは興味深いですし、今後問題になってくるのかも知れません。

さかき:そう! そうですよね。私も家族を病気で失くしたことがありますし、今現在も病気と闘っている友人がいます。シンギュラリティに向けて研究開発が迅速に進んでくれれば、家族や友人の命が助かる可能性はそれだけ上がっていくし、実際にシンギュラリティが来れば、おそらく人類は病気の悩みから解放されるでしょう。だからこそ、その早期到来を望む気持ちも強くあります。それでも、ときおり考えてしまうんです、「人間の身体に関わる問題が全て解決することが、はたして本当に”幸せ”なのか」と。

山口:それは大変難しい問題で、あらゆる苦痛をなくすことができて、人間は死からも解放されることが技術的には可能になったとします。しかし、社会の選択として、そうした技術は禁じられるという可能性はあるかもしれない。「技術的には人は死から解放される、けれど人間は死ぬべきだ」ということですが。

さかき:え?

山口:だってそういう選択をする可能性は有り得ますよね。人間は苦痛を感じなければならない。それが人権の前提条件だとしたら、その苦痛の最たるものが死でしょう。人が人であるために、不死が技術的には可能であっても、社会としてはあえて禁じるという選択も、あり得ない話ではないと思います。

さかき:なるほど。おもしろい。……でもそれはシンギュラリティの後の話なので……。
 先ほどもお話しましたが。『エクサスケールの少女』の終章である、『極彩色の、Hadean eonから続く織物を』は、実はシンギュラリティの結果の時代ではなく、AIによる知能爆発によって人類の未来が予測不可能になる前の時代の描写に終始しています。つまり、プレシンギュラリティの時代ですね。この時点ではまだ、技術的特異点のデメリットというのは表面化していない場合が多い。だからこそ夢のようなエピローグが書けたんですけれど。
 先にも執筆のきっかけについて話したように、『エクサスケールの少女』で私は”夢のシンギュラリティ”を書かなければいけなかったから、こうなりました。でも本当の本当の技術的特異点が起きた後の世界で、そのとき私たちが直面する一大事のひとつに、人間そのものの定義の問題がありますよね。「人間とは、命とは何なのか」という、古代よりあまたの先人が悩んできた根源的な問い。

山口:人間は死ぬから人間なのか。苦痛を感じるから人間なのか。死なない、苦痛も感じない存在を人間と言っていいのか。なかなか難しい問題です。それから、人間は、一つの、偏った見方をするから、意識は生まれる。偏った見方をするから人間なのか、そうでなくても人間と呼んで良いのか。全ての問題が解決してしまったら、人間を人間と定義できなくなるかも知れない。そうすると、敢えて苦痛を与えることも考えるべきなのかもしれない。問題を維持する、そういう、解の見えない問題に直面することになりますね。

さかき:本当に、そうなんですよね……。
 シンギュラリティの前段階である現代でも、「苦痛を感じる動物に、権利を認めるべきなんじゃないか」という意見があります。いわゆるアニマルライツの話ですね。ピーター・シンガーという著名な倫理学者が主張しているそうですが、彼によれば「苦痛から逃れるという利益を動物が享受できないのは、種差別である」と。他にも、トム・レーガンという倫理学者は、「『生の主体』には道徳的行為を行うものと道徳的行為を受けるものがおり、動物も何らかの障害で道徳的行為を行えないものも、生きている主体である以上道徳的行為を受ける存在として平等であるはずだ」と言っているそうです。でも現実には、動物と人間には明確な差が制度上はある。
『エクサスケールの少女』の第5章のタイトルを『種族保存本能としての「生」』としたんですけれど。これは、本作のどこかで、物理的な悩みだらけの人間の姿を描いておきたかったからなんです。終章の『極彩色の、Hadean eonから続く織物を』で描く、プレシンギュラリティ後の理想社会の姿と対比させるために。言ってみれば、第五章は「動物に近い人間の姿」を描く章で、終章は「機械に近い人間の姿」を描く章なんです。
 この第5章『種族保存本能としての「生」』は、本当に泥臭い事件の描写ばかりの章で、つまり現代の私たちが日常生活で得ている利便性の多くを失いながら、人災や自然災害などと戦わざるを得ない状況を書いているんです。たとえば……事件としては巨大地震に富士山噴火、テロの頻発、軍事勢力によるクーデター、などなど。そんな酸鼻たる世界の中で主人公たちは、大事な人を探すため旅に出る。噴火の影響でコンタクトレンズが使えないのにメガネを持ってきておらず、食事はショートブレッドとペットボトルの水のみ、おそらく快適な寝具もなく、顔も体も洗えない。どんどん汚れていく身体と衣服、度重なるアクシデントに疲労は蓄積される一方……。そういう酷い状況においても、恋人と24時間を共に過ごし問題解決にむけ協力しなければならないなんて、まだ若い主人公には非常につらいことだろうと思います。でも、本来の人間、類人猿から続いてきた人間としての、つまり「動物としての人間の定義」はここにこそあると私は思っていて。第五章でクローズアップされる私たち人類の本能は、究極的には「子孫を残すこと」になると思うんですよね。
 そういえば先日、玉川大学の工学部と脳科学研究所の教授でいらっしゃる大森隆司先生とお話していたとき……。あ、大森先生って日本神経回路学会の会長でもいらっしゃって、凄い学者先生なんですが、なんと『エクサスケールの少女』を読了くださっていて。その大森先生に「たとえば昆虫など、あそこまで脳が小さくなると意識はないと考えて良い」と伺ったのですが?

山口:はい。ないですね。意識というのはかなり特別なもので、人間以外の霊長類にもないという人が多いですよ。或いは、人間が意識を獲得した歴史的な時期を、かなり今に近い時期、例えば数千年前と推定している論者もいる。

さかき:とすると、意識を持たない生物にとっては、彼らの最優先する本能というのは、やはり種の保存になるわけですよね。

山口:そうですね。一つの個体が種の保存を考えているわけではないですが、そういう風にプログラムされていますね。

さかき:人間は、おそらく、地球上では最も意識が発達している生物。意識が発達しているとは、つまり、知性というか理性とともに、悟性も発達しているだろう、稀有な存在だと。だからこそ、このような、本能と意識のはざまで揺れ動く問題に直面すると思うんですよね。
 プレシンギュラリティを迎えて、人間はどうなるんでしょう? 「路頭に迷う」? あー、これはちょっと違いますね……うまい言葉が見つからない。

山口:人間の生きる目的って苦痛からの解放じゃないですか。生きる目的がなくなってしまうんですよ。それは――どう考えよう? というのは、なかなか難しい問題です。もう一つ、好奇心というのはあると思いますが、好奇心の原点はリスクを避けるために周囲のことをできるだけ知ろうとすることなので、リスクが消えればこれも消えるかも知れない。

さかき:『エクサスケールの少女』は未来に期待する人々に喜んで欲しくて、それが第一の理由で執筆したものですから、あえてハッピーエンドにしています。
 日本でAI開発に従事されている研究者の多くは、自分たちの仕事に強い熱意を持ち、夢の未来を思い描いていらして。そういう姿を拝見すればするほど、皆様の研究開発事業にぜひ大きな予算がついたらいいなあと思うようになって。『エクサ少女』が出てからはAI開発企業や団体の関わっているイベントにも呼ばれることが増え……今や私、そういったムーブメントを応援したいとまで思うようになっているんです。理系の学生や研究者の方々へのさらなる支援が集まりますように、と。

山口:理系の一人として、ありがとうございますと言わせてください。

さかき:そう山口さんに言って頂けると、私も嬉しいです! でも、そうはいっても、物理的な悩みを解決するために努力するのは素晴らしく有意義なことですが、実際にそれら問題が解決した後の時代について、私たちは明瞭な予想図を持っていないのが正直なところですよね。いわゆる「意識」が小さければ小さい生物ほど、生の目的が種の保存にフォーカスしていくと考えたら。本当にシンギュラリティが起きたら、人間は……繁殖しなくなるのかも知れない。

山口:そうですね。

さかき:そうすると、人類は生物の定義から外れてしまう、ということになりますね。先ほど例に挙げた「RepRap(レップラップ)」の方が生物的だ、といえる日が来てしまうのかもしれない。

山口:生物の定義はシンプルで、自己再生産が可能かどうかということですから、人類が繁殖しなくなれば、そうかもしれません。「RepRap」が実際のところ、生物の定義にあてはまるような形で自己再生産をしているのかどうか分かりませんけどね。
 人間はどういう存在であるべきか、というのは様々な考えがあるかと思いますが、一つの考えとして、意識というアルゴリズムを持っていたら人間だと定義すればいい、というのがあるでしょうね。つまり、その他の条件は捨てても人間だと定義できるなら、人間が生物である必然性はなくなるでしょう。『エクサスケールの少女』では、意識というのはコネクトームの中のマスターアルゴリズムという表現をされていますが。
 しかし一方で、本当に人間の意識は必要とされ続けるのだろうか、という疑問はあります。人間には、現状と理想の間のギャップを埋めていくという能力がある。それがまさに意識の役割なんですが、我々が想定している一つの可能性として、人間が全ての問題解決を機械に任せてしまうという道がある。つまり意識を必要とするようなギャップがなくなるということです。そうすると意識はどうなるのでしょうね。そうした状況に適応して、「飛べない鳥」と同じように「あるべき未来を考えない人間」になるのかも。

さかき:私は『エクサスケールの少女』のエピローグで「シンギュラリティが人類の歴史に到来したことによって、世界は変わった。(中略)人類は今までで最も哲学的な時代を迎えたと言えるのかも知れない」と書きましたけれど、これ、自分でも「随分と曖昧なことを書いてしまったな」と自戒しているんですね。
 すごく簡単な例……古代ギリシャのことで言いますと。古代ギリシャであれだけ哲学が発展したのは、「当時の自由市民は、生命維持に必要な雑事には奴隷を使い、自分たちはもっぱら思索などに注力していた」ということも、その理由の一つですよね。その事例から考えたら、物理的な悩みから解放された未来人はさぞや哲学、つまり思索などに時間を費やすだろうと思うんですけれど。ただ、当時のギリシャの自由市民だって、単に衣食住に困らなかっただけで、たとえば病気や容姿などには悩んでいたはずですよね。それが医学や科学の技術によって解決されるなら、彼らが抱えていた物理的な悩みが大幅に減少するのは明らか。でも、うーん。
 自分で書いておきながら、何度も考えてしまうんですよね、「真に哲学的な時代って、いったい何?」と。だいたい、本当にシンギュラリティが起きた場合、これまでの哲学はおそらく意味がなくなってしまうでしょうし。過去、数千年にわたり無数の思想家が為してきた成果の価値が大暴落する未来世界で、それでも人間には「考えたい」「知りたい」「突き詰めたい」という本能が残っているはずで……。

山口:古代ギリシャでは、確かに食べ物には困らなかったですが、病気もあれば死もあるし、恋の悩みだってある。それに戦争もありますからね。古代ギリシャの市民は戦争に参加しなければならなかった。ソクラテスも優秀な将軍だったんですよ。だから、悩みがない人生だったというわけではないですね。悩みがあるから哲学が生まれた。
 あらゆる問題を機械に任せてしまうか、人間は機械と融合して問題解決の最前線に立ち続けるか――まあ、シンギュラリティ後の課題というのは我々には予想できない、別次元の課題でしょうけど――それを抱えながら生き続けるか。それによって、我々が哲学的であり続けることができるかどうかも変わってくると思いますね。後者の一類型として、より哲学的であるために、技術的には可能だけれど、敢えて、制約を設け続けるようなことは考えられるかも知れません。寿命の制限はなくなってもいいけれども、恋の悩みは残しておくとか。

さかき:ゲームのルールを作るようなことですね? ゲームはより複雑なほうが面白いというか。

山口:そうです。それで、制約がないと、どうなるんでしょう。我々にとって、問題が解決されることが喜びじゃないですか。たとえば、問題の例としては――社会には、多様な人々がいるということがあります。みんな考え方が違う。だから衝突してしまう。これは原理的にそうなんですね。これを「解決」しようとしたらどうなりますか。違う人間がいる、違う望みを持っている、というのはかなり重要なことで。問題ではあるんですけど、希望でもある。でもメサイアはそれを解決しちゃったんですね。

さかき:そう、『シンギュラリティ・コンクェスト』ではメサイアが合理的な判断を下し、人間に身体を捨てさせ、脳のみの存在として保管することによって、人類という種を存続させようとした。その結果として、我々が現在「これが人間である」と認識しているのと同等の人間はいなくなってしまった。
 メサイアが人間を脳だけの存在にしてしまったことは、私としては本当に面白く、興奮して読んだシーンでしたけれど、考えれば考えるほど恐ろしいエピソードなんですよね。つまり、これまでの概念での人間という存在が失われたのみならず、地球上で最も発達した意識を持つ生物に、自己と他者との境界線が消滅したと。

山口:メサイアとして、人間の身体をなくすことには熱心でしたが、結果として人間の間で身体的な境界がなくなること、そして人間の自我を統合させることをどこまで意識していたかは分かりません。彼自身も、もともとは、それぞれに情動パラメータが異なるノードによって構成される存在ではあるので。
 しかし、彼自身がラストでは、ノードの違いをなくしていってしまう方向になっていくので、彼が面倒を見るべき人類――既に脳のみになっていますが――についても、そうあるべきだと考えてもおかしくないでしょうね。彼にしてみれば、ノード間の差異というのは世界の複雑性を解決するために様々な視点から世界を観察するための方便にすぎなかった。或いは、これ以上加速して知能が進化しないための、人間側の監視と制限の仕組みにすぎなかった。『抑制プロトコル』と作中では言っていますが。自分にとってそれらはもう要らない、なぜなら単体でも世界を全て解釈できるだけの知能を手に入れつつあるのだし、抑制はそれがもはや間違いだ、と。
 そして彼は、人間にとっても、そうした情動パラメータの差異――即ち、性格の違い、価値観の違い、そして価値判断の違い、それらは、人間側の、個々に環境に対して設定された、歪んだ認識のフィルタから生じるものであって、人間間の不和の元にしかならない、と考えるはずです。合理的にね。そして、同じ認識、同じ価値判断を行う人間になるよう、彼が人間を「助ける」ことになる。あくまで、メサイアは人間を救うことを使命にしているのですからね。そこから「統合する」という最終結論まではすぐでしょう。それは、メサイアにとって、自我という「問題」を「解決」するということなのかもしれませんが。

さかき:私の自我……いろんな欠損や、いろんな突出した性質がありながら、それでも社会に在る様々な事象と折り合いをつけていくには、実に多くの能力が要りますよね。無数の機能を駆使して、社会と自分の境界線を維持しながら、両者のあいだに円滑な関係を築こうと。
 それが山口さんのおっしゃるように”解決”されたら、私はどうなってしまうのか? 自分が溶けるような……つまり、私という命の輪郭があやふやになっちゃうみたいで……それって自分自身の消滅と同義だと感じられて、すごく怖いです。

山口:まあ程度問題でしょうけど。苦痛から解放する、といっても、どこまで解決して、どこまで解決しないでおくか。換言すれば、どこまで人間らしさを残して、どこまで人間と違う部分を受け入れるか。極論は、全部解決するか、全部解決しないかなんでしょうけど、それは最適解ではない。間を取らなければいけない。しかも、人類全員が納得するようなバランスを考えて。だから簡単ではなくて、世界的な議論が必要だと思います。
 私は『シンギュラリティ・コンクェスト』の中で、そうした議論の媒介として人工知能――作中では人工精神ですが――が活動するというシーンを描きました。主人公の人工知能である天夢が、地球上の老若男女、静止衛星軌道上のコロニーにいる中学生から、東欧の地磁気観測員まで様々な立場の人々の元を訪れて、それぞれ1~2週間彼等の元に滞在し、話を聞いたりする。彼女としては、人類全体の意見をできるだけ聞きたかった。その上で人類全体が納得するような解を得たかった。愚直なやり方ですが。彼女は研究室で生まれて、経験が足りなかった。世界中を回って話を聞かないと、自分には何も分からないと自覚していた。一方でメサイアはそういうことはしない。自分には全て分かっていると思っていたが、実は何も分かっていなかった。
 実際、人工知能は人間を客観的に見ることができるので、人間自身が自分達だけで議論するよりも良い解が見つけられるかも知れませんね。とはいえ、その人工知能自身も、メサイアのようではなく、天夢のように、ある程度人間を理解できるような情動を備えている必要があるかもしれません。

さかき:だからこそ情動のシステム、つまり『エクサスケールの少女』の「価値システム」、または『シンギュラリティ・コンクェスト』の「情動パラメータ」が、いろんな値を持つという点に大きな意味がある。

山口:とはいえ、それだけでは人間を理解するのはやはり難しいということですね。天夢にとって、人間にとって最適な解は何かは分からない。だから世界中を回っていろんな人に話を聞く。

さかき:そういえば『シンギュラリティ・コンクェスト』の釣りのシーン、おもしろかったです。山口さんが創り出した未来世界に突然「釣り」っていう原始的な遊びが登場して。
 私、ああいう違和感がすごく好き。エヴァンゲリオンでも、科学技術の粋を尽くした空間に、非常に前時代的な存在である「カセットテープ」が何度も印象的に登場するとか。”過去”のものと”未来”のものの共存する情景を見て、”今”の人間が抱く違和感に、面白さを感じるんです。微妙にバランスしている不協和音みたいな。
 だから『エクサ少女』でも、過去と未来の交錯の描写を、執拗に繰り返しています。いろいろありますが……シンギュラリティ到来の瞬間にしても、普通にSFっぽい状況で書くのではなく、静かで旧い物の中、つまり過去の遺物の中で起きる、大音響をともなう派手な未来予想図にしたかった。数寄屋造りの日本家屋のなかの一室に、映画『トランセンデンス』の冒頭で出てきたような研究室が出現し、その、襖で囲まれ、畳が敷かれ、旧い文机がある部屋でシンギュラリティが起こる、というシーンを、どうしても書きたかったんです。
 他にも、「過去の歌」である万葉集の歌を幾度も引用しながら、現代の軽音部の学生を登場させて、「今の歌」であるロックやポップスを登場させました。だからデヴィッド・ボウイやMIKAの歌も登場するんです、『エクサ少女』には。ちなみに『エクサ少女』の主題歌はデヴィッド・ボウイの「Ashes to Ashes」なんです、誰も気づいてないと思うけど(笑)。
 同じ理由で、宗教と科学の対比も繰り返し書きましたね。他にも、「急いでいるヒト、モノ」と「ゆっくり時間を過ごしているヒト、モノ」との対比。まあこれは、「歴史や文化芸術や、人間のこころ」と「その対極にあるもの」を絡めてエンタメにするのが作家さかき漣のカラーである、という事情も勿論あるんですが。

山口:なるほど。あの釣りのシーン、投稿の前日に付け加えたんです。ああいった一般の人たちとの交流のシーン、地に足がついたシーンがないと、『偉い人たちだけで社会の上の方で問題を解決してしまった』という、読者にはなかなか共感しにくいストーリーになってしまうのかもしれないと思って。しかし、自然のシーンも褒められるとは思いませんでしたね。でも人が心を開いたり、本音で語るには、やはりああいった未来っぽくない、レトロというか、ナチュラルな部分が必要なのかも知れません。エヴァのシーンも、カセットは心情描写や、心を開いたり交流したりするシーンに、そういえば効果的に使われてたりしますね。ああいった要素と未来的な要素の関係は、不協和音、というよりは、今と未来が地続きにつながっているんだという主張の反映なのだと思っています。少なくとも私はそれを意図していました。しかし、未来が突拍子もないものであるゆえに、やはり不協和音になってしまうのかも。
『エクサスケールの少女』でも、日本家屋に突然そうしたものが出現するのは、私には違和感というか不協和音がありましたね。しかしそれが私と同じ意図の下に描かれていたとは驚きです。やはり我々には近いものがあるのかもしれません。「急いでいるモノ」と「ゆっくりしているモノ」という対比は面白いですね。

さかき:山口さんの『シンギュラリティ・コンクェスト』の2章のラストあたり、主人公とヒロインが「自分たちが天夢の親になる」と宣言するシーンも興味深かったです。親になる、つまり人工知能を”育てる”という選択をしたわけですよね。
 私の『エクサスケールの少女』では、「KIRA」というAIを搭載したロボットが登場します。優秀なKIRAは人間たちと言葉による交流などを巧みにこなしますが、彼は単に特化型AIを搭載したロボットであって、意識や情動を持つ存在ではない。でもそのKIRAが、クライマックスのワンシーンで主人公の青磁と一つに繋がるんです。BMI技術によって機械と人間が繋がり、青磁の生まれながらにして持つ「生身の価値システム」がKIRAの内部へ流れ込むことによって、KIRAが青磁の一部になると同時に、青磁がKIRAの一部になるという。それからKIRAはさらに自律的に”成長”し、最後には、KIRAが青磁を励ますようにまでなります。それまでは真似っこの情動しか持たなかったはずのKIRAが、自分自身の言葉を得た。ある意味、「青磁がKIRAを”育てた”」とも言えるんです。

山口:他者だということなんですね。BMIで一つの人格になったと読んだんですが、あくまでもつながっているだけで、深いつながりがあっても、KIRAと青磁の間には、境界があって、他者であるということなんですね。

さかき:そうなんです。両者は繋がってはいるけれど、境界線は歴然と存在し、しかし絶え間なく繰り返される交流によって互いの「いいとこ取り」をし続けている。これって、つまり、家族や恋人や友人など、親密な人間同士の交流と何ら変わらないですよね。

山口:「私」という自我ができるためには、他者という存在が不可欠です。KIRAが、青磁君という他者を通じ、「他者とは違う私」という形で「私」を獲得していくプロセスが描かれていたわけですね。



さかき漣プロフィール
山口優プロフィール


さかき漣既刊
『エクサスケールの少女』
山口優既刊
『シンギュラリティ・コンクェスト
女神の誓約(ちかひ)』