以下ネタバレ。
意識の本質とは
この短編集の基本アイディアは「意識とは情報の代謝である」ということです。
代謝(たいしゃ)とは、生体内の化学反応のことで、体外から取り入れた物質から他の物質を合成したり、エネルギーを得たりする。
代謝 - Wikipedia
要するに、情報をなんらかのやり方でインプットし、それをあるやり方で別の情報にアウトプットする、その一連の流れが意識である、ということです。この情報代謝の仕方は人それぞれです。「赤」と言われて連想する言葉が人によって「リンゴ」「梅干」「信号」などと違うように、あるインプットに対してどのようにアウトプットするかは人によって様々です。
その情報代謝の癖を電子的に記述したのが、情報的似姿。AIは、この情報的似姿を人工的に作り出した(記述した)ものです。
脳内の化学反応を丸ごとトレースしなくても、情報代謝の癖さえトレースできれば「コピー」が可能というアイディアは度肝を抜かされました。たしかにそのほうが簡単にできそうだし、ひょっとしたらそのうち実現するかもしれないという気になります。
意識の記述は、意識と同じなのか?
しかし疑問も残ります。たしかに本人の情報代謝の癖をそっくり丸ごと電子的に記述することはできるでしょう。その電子的記述は、外部から見るとあたかも「本当の意識」があるかのようにふるまうでしょう。しかし、その記述に「本当の意識」は宿っているのでしょうか?
これは、意識があるかのようにふるまう哲学的ゾンビと「本当の意識」の区別はできない、という難問と同じです。本作に出てくる情報的似姿やAIは、「自分には意識がある。本当の意識がある」と主張しています。そして作品内でもそう記述されています。しかし主張はあくまでも主張であり、記述はあくまでも記述にすぎません。そこに、今私やあなたが感じているような「本当の意識」は稼動しているのでしょうか?
もちろん、私という存在が「本当の意識」をもった存在であると客観的に証明することはできません。外部から見たら「ぼくは本当の意識をもった存在だよ」と口走るだけの哲学的ゾンビと一緒です。主観的に「私は本当の意識をもっている」と感じていることこそ、唯一の「本当の意識」の証明なのです。
認識できない差異は差異ではない。ゆえに「本当の意識」と情報的似姿は同一の意識を持つと考えてもいいでしょう。「本当の意識」なんてものを客観的に証明する方法はないのですから、「本当の意識」っぽかったらとりあえず「本当の意識」として扱うというのは妥当な気もします。
しかし、一「本当の意識」として思うのですが「お前の存在を物理的に消すが、同一の意識をもつ情報的似姿を用意してやるからかまわないだろ?」と言われたら、絶対に納得することができない気がします。その情報的似姿は、私と同じように考え、行動し、書評したりするんでしょうが、それでもそこに私と同じ「本当の意識」があるのかはわからない。そんな不確実なものに自分のアイデンティティを重ね合わせることはできそうにありません。
たとえ客観的に見て、意識の記述は意識と同じでも、主観的な同一性(アイデンティティ)は確保できないんじゃないだろうか? というより、それが主観的であるがゆえに、アイデンティティを確保できるともできないともわからないんじゃないか?