Planetarian感想 ロボットに心はあるのでしょうか?

 思考実験ごっこです。とある科学者があなたの脳に特殊なチップを埋め込みました。このチップは特殊な信号によって脳に作用し、あなたに最高の幸福感をもたらします。さて、あなたは幸せになれるでしょうか。

前提 1) このチップはあらゆる快楽や充足感、達成感をも上回る幸福感をあなたに与え、しかも頑丈で永久に効果を発揮します。
前提 2) 科学者にあなたへの害意はなく、チップが埋め込まれてもあなたの健康や精神衛生は健全に保たれます。
前提 3) あなたの生活は現在から未来に至るまで完全に安定しており、他人や災害によってそれが害されることもありません。

「planetarian~ちいさなほしのゆめ~」 [Blu-ray]

 今この場ででっち上げた設問なのでアラがあるかもしれません。もしかすると私の想定していない価値基準によって結論を出す人がいるかもしれませんが、一応これは「与えられた感情はあなたのものたり得るか?」という問いかけのつもりです。3つの前提条件は単に設問意図と違う視点を潰そうとしただけであって、問いかけの本質には関わりません。

 ほしのゆめみは徹頭徹尾つくられた存在として描かれます。その身体は工業製品で、その仕事は納品される前から決められていたもので、その価値観すらも誰かにプログラムされたものです。ある程度の学習機能こそ持っていますが、彼女の基本思想はあくまで他人から与えられたものです。人間の役に立つこと、与えられた仕事をこなし続けること、人間を信じて疑わないこと。
 「私たちは必ずここに帰ってくる」 29年間その言葉を信じ続け、たとえセンサーが収拾する周囲の情報との間に論理的な矛盾をきたしていても、彼女はその矛盾を未知のバグと判定します。だって彼女はそういう風につくられたのだから。そこに彼女の意志はあるのでしょうか。 『中国語の部屋』 の理論に当てはめてみるならば、それは存在しないといえるかもしれません。

お人形の洗礼

 屑屋はゆめみに平穏だった時代の残照を見ます。どうやら彼自身はその時代を経験していないようですが、いくら過酷な現代といえど、相応に平穏を享受した思い出はあったようです。幼い頃に母の胸に抱かれながら見つけたきら星は彼の心にそっと響き、やがてゆめみの日だまりのような暖かさに共鳴することになります。
 要するに屑屋はゆめみとの出会いによって人間性を回復しました。過酷な時代には余計な荷物でしかないけれど、それでも一度手にしてしまうと放りがたい、輝かしいもの。かつて相棒が警告した甘い毒。書いていて気付きましたが、まるでお酒のようですね。このブログの文章もたいがい酔っ払っています。
 そんなおそろしくもかけがえのないものを、ただのロボットであるゆめみが、ひょいっと、あっけなく取り戻してしまいます。彼女の純真はバプテスマ。アナーキストをヒューマニタリアンへと改宗させるサクラメント。つまるところは祝福です。その言動はあらかじめプログラムされたものなのに。それにもかかわらず、屑屋はゆめみから彼の人生を変えてしまうほどの大きな祝福を受け取ってしまいます。

 おかしな話じゃないですか。
 ほしのゆめみはつくられた存在です。その言葉もふるまいも、価値観すらもあらかじめプログラムされたものでしかありません。いくらその言葉が優しくても、そのふるまいが暖かくても、しょせん彼女は手足を糸でくくられた操り人形でしかありません。そこに彼女固有の自我はないはずです。
 けれど今、屑屋は彼女から祝福を受け取りました。おかしな話じゃないですか。誰かを祝福するということは、そこに心があるということです。「祝福」とは誰かの幸せを祝うこと、祈ることをいいます。心がなくてはできません。
 「ロボットは人間に危害を与えてはならない」 けれどシオマネキのようなロボット兵器がいる。そんな古典よりもはるかに素朴な矛盾を彼女は抱えています。

与えられた幸せ

 そんなわけで、話は冒頭の思考実験ごっこに立ち返ります。
 とある科学者があなたの脳に特殊なチップを埋め込みました。このチップは特殊な信号によって脳に作用し、あなたに最高の幸福感をもたらします。さて、あなたは幸せになれるでしょうか。

 くどいようですが、ほしのゆめみは言葉やふるまい、価値観に至るまで誰かにつくられた存在です。
 「私たちロボットは人間の皆様の幸せのためにありますから」 そう言う彼女は日々の業務を愚直に遂行し、人間に感謝されることを喜びとします。「天国をふたつに分けないでください」 自分にとっての幸福はその業務を永遠に果たし続けることだと言い切ります。
 まるで自分というものを持たない、支配された存在。・・・それは彼女が心を持たない証拠たりうるでしょうか。

 先の設問、私なら「幸せになれる」と回答します。幸福感が得られるというならつまり私は幸せです。当たり前のことです。その由来がどんなものであるか、真実なんて私の主観には関係ありません。それは何らかの理由で幸せに疑いを持ったとき初めて問題となる要素です。
 祝うべきことに、ほしのゆめみには喜びを感じとる機能が備わっています。ゆめみに限らず、高度な自律判断を要求されるフィクションのロボットにはたいがいこの機能が組み込まれています。現実に存在するAIのような個別のDo/Not命令の集合体ではとても対処しきれない問題が、我々の世界には数多く存在するからです。そんな問題に直面したとき我々人間が頼りにするのは「どの選択が自分を最も幸せにするか」という推量、動機づけと呼ばれるものになります。いつかの未来、もしロボットに自律判断を求めるならば、動機付けによる行動選択、ひいてはその判断要素となる喜びを感じ取る機能は不可欠となるでしょう。
 従ってゆめみには「遂行すれば喜びが得られる手段」という形で命令がプログラムされています。「喜び」が存在することの意義は大きいですよ。仮想的ながらもそれはロボットが「自分のために行動する」という、生物の基本的な性質を獲得することと同じですから。

 「プラネタリウムはいかがでしょうか」 誰も来ないプラネタリウムで延々と客寄せを続け、「そろそろこの工具がご入り用ではありませんか?」 融通の利かない喋りたがり、「重要知識として登録しました」 ほしのゆめみは外面的にひどく機械的です。屑屋も40口径銃の銃口を向けられてのほほんと平静でいられるズレっぷりに、彼女がロボットであると思い至ったほどでした。
 与えられた職務を忠実に実行する、そのどうしようもない機械っぷり。・・・けれど、彼女は喜びを知っています。自律判断するための高度な知性を持っています。自分が今何をするべきか、何のために行動するべきか、自分なりの基準を持っています。
 お客さんを喜ばせるためであれば2712番もサバを読みます。花束が調達できないのであればジャンク部品をかき集めてそれらしくでっち上げます。手持ちのない子どもたちが困っていたらこっそり無料で中に入れてあげます。だって彼女はお客さんの笑顔のために働いているのですから。与えられた命令だからではなく、それが自分の喜びだからこそ職務に励んでいるのですから。
 それは人間と何が違うでしょうか。少なくとも彼女の主観において、ゆめみは心を持っているように思います。

天国をふたつに分けないでください

 ゆめみが心を持っているとして、しかしそれが彼女以外の他人に観測されることはありません。心の存在なんて人間ですら証明できませんからね。それができるなら デカルト は苦労しません。「我思う、ゆえに我あり」 最大限客観的に観測しようとしてもそのくらいが限度です。
 ですが、それにも関わらず人間は誰かと心を通わせられる生き物です。しかもその「誰か」が必ずしも言葉の交わせる相手とは限らないのが面白いところ。犬、猫、動物、植物、ぬいぐるみ、自動車、あとは秘書機能アプリケーションソフトウェアとか。犬や猫ならともかく非生物なんていくら語りかけても微動だにしないというのに、それでも話しかけていればなんとなく気持ちが伝わった感触があるものです。(よね?)
 先ほど、ほしのゆめみは心を持たないロボットなのに人間を祝福できるなんておかしい、と書きました。
 けれど、まあ、実際そういうものですよね。本当はもうちょっともったいつけた書き方で長々語るつもりだったのですが、困ったことにそういうものだとしか言いようがありません。正直なところ私こういうの自分では疑問に思ったこと自体ありませんし。

 心は他人には観測できません。人間なら「私と同じように」心を持っているだろうと類推できますが、ではぬいぐるみは? 自動車は? ロボットは? こうなるといよいよ心の実在を証明する手がかりは乏しくなってしまいます。
 結局のところ、私の主観として相手に心を見出せるかどうかなんて、相手の主観としての事実には何の関係もないんですよね。おそろしくややこしい言い回しですが、ぬいぐるみに魂が宿っていようとただの綿の塊だろうと、私がぬいぐるみを友達だと思えばその子は友達です。それだけのこと。
 屑屋はゆめみから祝福を受けました。人生がぐるり反転してしまうほどの鮮烈な出会いでした。それはゆめみがつくられた存在だとかそうでないとか、そんなの全然関係なしに、屑屋が夢見にそういう心を見出したから起きた奇跡です。
 屑屋の主観として、ほしのゆめみには確かに心がありました。

 屑屋から見て、ほしのゆめみには心があります。ゆめみから見て、ほしのゆめみにはやはり心があります。たったふたりの登場人物がいずれも認めるところならばそれはもう「ある」という事実ってことにしちゃっていいんじゃないでしょうか。だって否定のしようがありませんし。
 だから。神様、どうか天国をふたつに分けないでください。心があるという点で、人間とロボットには何の隔たりもないのですから。ふたつは元々同じものなのです。名前が違うというだけで引き離される理不尽が、どうかこの世に存在しませんように。神様、もしあなたがふたつの心ある存在を等しく愛してくださるのならば、天国をふたつに分けないでください。

シェアする?

フォローする!