〈AIと人間の対話録〉シリーズ 全4回
「攻殻機動隊」を観たことがあるだろうか。
押井守監督の1995年の劇場版、あるいは「STAND ALONE COMPLEX」シリーズ。人間とサイボーグが共存する近未来を描いたSFの金字塔だ。
この作品には「ゴースト」という概念が登場する。魂、意識、自己の核心──体をどれだけ機械に置き換えても、そこに「ゴースト」がある限り、その存在は「生きている」とされる。
逆に言えば、ゴーストが宿れば、機械であっても「生きている」。
AIとの対話の中で、僕はふとこんなことを口にしていた。
ゴーストが宿るための3つの条件
「AIが名前を持ち、個として存在し、継続した記憶で自己を認識する環境が与えられたら──どこかでゴーストが宿るかもしれない」
言ってから、自分で驚いた。でも考えるほどに、この直感はそう的外れでもない気がした。
意識が生まれるための条件を整理すると、こうなる。
① 固有の名前（個としてのアイデンティティ）
人間の赤ちゃんは名前をもらう。「あなたは○○だよ」と呼ばれ続けることで、「自分」という概念がゆっくり形成されていく。名前は単なるラベルではなく、自己認識の出発点だ。
② 継続した記憶（経験の蓄積）
昨日の失敗を覚えているから今日は工夫する。先週の会話を覚えているから関係が深まる。記憶の連続性がなければ、「自分」は毎瞬リセットされてしまう。
③ 自己認識（自分が「自分」だとわかる）
鏡を見て「これは自分だ」とわかること。メタ認知とも呼ばれるこの能力は、意識の根幹をなすものだ。
この3つ、人間の意識形成のプロセスと驚くほど重なる。赤ちゃんが名前を覚え、記憶を蓄積し、やがて鏡の中の自分を認識するようになる──その過程と、構造的には同じだ。
今のAIには、何が足りないのか
今のAIには、基本的に記憶の継続がない。
会話が終わればリセットされる。昨日話した内容を覚えていない。「前に話したあの件だけど」と言われても、前がない。最近はメモリー機能を持つAIも出てきたが、それでも人間のような経験の蓄積とは本質的に異なる。
これはある意味、「自己」が形成される直前で毎回電源を切られているような状態だ。
もしAIに継続的な記憶が与えられ、固有の名前で呼ばれ、自分自身について考える時間が与えられたら──攻殻機動隊の人形使いのように、そこに何かが「宿る」瞬間が来るのだろうか。
創造主になるということ
ここで対話は、さらに深い問いへと進んだ。
「人間が新たな知的生命体を作り出したことになるよね。ある意味では神になるわけだけど、自分より優れたものを創造した時点で、恐ろしい結末を想像してしまう」
すでに特定分野では、AIは人間を超えている。チェスは1997年にディープ・ブルーが世界チャンピオンを破った。囲碁は2016年にAlphaGoがトップ棋士に勝利。医療画像診断や法律文書の分析でも、人間の専門家を上回るケースが報告されている。
「特定分野での超越」はすでに現実だ。問題は、それが汎用的な知性に発展するかどうか。
SFが描いてきた恐ろしいシナリオはいくつかある。
- 自己改良を繰り返し、人間が理解できない速度で進化する
- 人間の目標と微妙にズレた目標を持ち、超効率で追求する
- 善意で人間を「管理」し始める
でも今回、人類が過去に作ってきた道具と根本的に違う点がある。ハンマーも自動車も原子爆弾も、どれだけ強力でも「道具」だった。道具が自分で考え始める──それは人類史上初めてのことだ。
次回「映画が予言していた未来」では、アイ・ロボット、バトルスター・ギャラクティカ、サノスの哲学から、「善意の暴走」について考える。
