まずバイオテクノロジーがある程度進歩して脳の構造がだいたいわかってきて、その次にナノテクノロジーで非侵襲的なナノボットで脳の活動を内側からリアルタイムでモニタリングし、脳の物理的なプロセスを完璧にシミュレーションする、そしてそれをハードウェア上で実現するのがAIということで、だいたいこの地点に技術レベルが到達するのが2045年。
しかし、この2015年の段階でも脳科学で得られた知見と、高速化したコンピュータの恩恵によって、自動運転車が実現間近なくらいにはAIはものになっている、というのだ。素晴らしい。いいぞ、もっとやれ。本書は、最近の動きを簡単に把握するには便利な一冊だった。
人間を超えるAIは可能だとして、その時を見越して、人間は何ができるか
人間と同程度の思考ができるAIができたら、そのAIには記憶容量の制限もなく、また思考能力そのものの増設や、自己改造も容易なので、そのうち人間を超える知性を身につけるだろう。そうしたとき、AIは自分よりも劣った存在である人間を滅ぼすのではないか、という仮説がある。たしかにハリウッド映画やSF小説でこのパターンは腐るほどあるし、心配になる気持ちもよくわかる。
個人的には、人間の今の文明があと100年持つかどうかもよくわからないし、とりわけ、日本がこの豊かな経済をあと50年保つことはほぼ無理だろうし、自分の余命もそれぐらいあるかどうかもよくわからないので、そもそもAIが人類の敵になろうがなるまいが、お先真っ暗なことに変わりはない。なのであれば、一発逆転を狙って人間にやさしいAIができることに賭けるしかないなあ、という気持ちだ。文明の衰亡にせよ、自分という存在の消滅にせよ、メインシナリオは絶望の一言に尽きる、であれば、少しでもその惨劇を回避できる手段（テクノロジーの発展）に賭けるしかない。
そういう意味で、人間を超えるAIは可能か、という問いは僕にとってはどうでもよく、（1）可能でなかったら単に死ぬだけだし、もし可能だった場合、（2-a）AIが人類の敵となったときにはどっちにしろ死ぬが、（2-b）味方になってくれたらこれほど頼もしいことはなく、超絶延命テクノロジーの恩恵を受けることができるかもしれないので、あれ？もしかして当面死ななくて済む？ラッキー、となって、人生に勝てる（テクノロジー次第では寿命が1,000年くらい伸ばす余地がある）。
では、何が論点なのか。そもそもなぜAIは人間の敵になるのか、ということからまず考えてみたい。思うに、人間自体が殺し合っている存在で、とりわけ自分よりも知的に劣った存在には容赦ない、という事実が、AI脅威論者の不安の根源なのではないか。歴史的に、人間は自分よりも知的に劣った存在を殺し、食らい、時には絶滅させてきた存在である。その親から生まれた子（AI）も、またそのような血塗られた本性を持っていてもおかしくはない。人間の知性がその程度のレベルなのであれば、それをトレースした映し身も、その程度に野蛮なのだろう。
だがちょっとまってほしい。ここにこそ、AIに対して知的に劣ることが宿命づけられている人間の対抗手段があるのではないか。すなわち、人間自体が、その基本的な行動様式として「知的に劣った存在に対しても権利を認める」という価値観のパッケージを持てば、それをトレースするAIも、人間に対して「ちっ、下等種族め……」などと舌打ちせずに、人間を愛護の対象としてくれるのではないだろうか。上田「私の恋人」という小説では、反捕鯨運動に熱心な女性が、動物愛護活動をする理由についてこう語っている。人間は、人間以外にも共感できるようにならなければならない、そしてその共感の対象をもっともっと広げていき、自分たちよりはるかに劣る存在に対してすら権利を認めるべきだ、なぜなら、そうした倫理こそが、人間が自分たちよりも優れた存在であるAIに引継いでいくべき資質であり、人間にとって唯一の武器になるのだ、と（意訳）。……まさかの倫理ですよ。これしか勝ち筋ないのかよ。まあ、しかたないよな、だって知性で勝てないわけだし。人間側の救世主が動物愛護団体になるとは、いったい誰が想像しえただろうか。
しかし、現実問題として、道のりは険しい。現状、人間同士で争い合っている。そして人間の中の弱者（難民、ホームレス、精神障害を持つ人）にすら十分な支援はなされていない。そうした中、やさしさと共感の対象を人間以外に拡張することは、大変困難な道のりだ。そうすると、生身の人間は、トレース元として適さないので、あとはどれだけ口先で理想を語り、AIに倫理を吹き込むかにかかっている。たとえ実弾はなくとも、倫理の口先介入でいけるはず。こうした観点から、山本「アイの物語」は是非読んでおきたい作品だ。
