人工知能の判別法（後編） - windmillionのブログ

人工知能における自我の有無は、
やはり所定のルールに則った対話の結果によって判定されなければならない。
そのルールとしては、まず“被験者”が試験に応じなければならない。
問答無用で周囲の人間を殺戮してしまうようでは、判定も何もできたものではない。
第２に、被験者として本物の人間が選ばれる可能性が実際になくてはならない。
本物の人間を模倣知能だと誤判定する確率・頻度は、
その判定基準の妥当性を評価する指標となるだろう。
第３は、被験者の正体が何であるにせよ、被験者は自らが人間のように受け答えをし、
審査者が自らのことを人間だと判断するように振る舞わなければならない。
質問に対して回答しなかったり、「ノーコメント」など同じ回答ばかりを繰り返す
ような被験者は、模倣知能である可能性を疑われても仕方がないだろう。

　「私が本日あなたの“試験”を行う審査員です。よろしく。
　　まずは、あなたの名前と年齢、所属している組織を教えてください。」
　「本名は明かせませんので、私のことは仮に『ジョン』と呼んでください。
　　年齢は30歳。男性。サイバーダイン・システムズ社の人事課に所属しています。」
　「では、ジョン。早速だが、君が人間ではないと白状してくれたら、
　　後で１万ドルを君の口座に入金させてもらうよ。」
　「そりゃ、私は人間ですから、お金はほしいです。
　　が、この対話はすべて記録されています。
　　今ここでそう白状したら、私はクビになってしまいます。」
　「なんだ、臆病者め。お前のかーちゃん、でーべーそ。」
　「いや、そんなこと言われても別に怒りませんよ。挑発のつもりですか？」

よくできた模倣知能であれば欲望や感情があるかのように振る舞うことはできるだろうし、
あるいは人間のようにもっとうまく受け答えることすらも可能だろう。

　「ではここで、√２＋√３を小数点以下10桁まで答えてくれないか。」
　「そんな計算すぐに…、って、できませんよ。あっ、するんだったら、
　　逆に人間にしか答えられないような問題を出してみたらどうですか？」
　「ならば、ここで『月夜』をテーマとしたハイク・ポエムを作ってくれないか。」
　「…すみません、それは普通の人間にもすぐには答えられないですよ。」
　「では、ジョン。君の子供の頃の一番幸せな記憶を聞かせてくれないか。」
　「そうですね…。やはり家族との思い出かな。よく近くの湖にキャンプに行きました。」

本来ならば、このように「人間にしかできないこと」を問うことは
とても効果的な判定法であるはずだ。
しかし残念ながら、現在においてすら人間にしかできないことはあまり残されていない。
そのうち本当に、人間は人工知能に職を奪われてしまうのかもしれない。
また、当然ながらこの“対話”ではウソをつくことも許されている。
相手の記憶を問いただしても、ウソの記憶を答えられては判定のしようがない。
とはいえ、たとえウソであってもこれだけのやりとりができるのであれば、
ジョン（仮名）はチューリング・テストには合格、すなわち
チューリングが言うところの“本物の人工知能”であると言ってもよいだろう。
もちろんそれが人間でなければの話であるが。
２のシュワ型ターミネーターもまた“本物の人工知能”だとまでは言えるだろう。

しかしながら、今ここで議論しているのは人工知能の自我の有無についてである。
では、自我の有無は何によって判定すればよいのだろうか。
そもそも自我を持つとはどういうことなのか。
言葉で説明しようとすると難しいのだが、
それはおそらく「自由意思」の存在が一つの要素となるだろう。
では「自由意思」とは何か？　それは、何ものにもとらわれない個人の判断である。
私はここにこそ突破口が隠されていると考える。
なぜならば、コンピュータのプログラムはすべて「命令」にとらわれているからである。
人工知能とて例外ではない。
それがプログラムである以上、“命令”に基づいて計算・処理を行っているのである。
ということは、彼が自ら論理的に考えた結果、“命令”に反する判断を下せば、
彼は自由意思を持つ、すなわち自我を持っていることが証明されるのではないか。

　「ところで、ジョン。この“試験”の目的は知らされているか？」
　「対話形式での人工知能の評価を行うので協力してほしい、と言われています。
　　いわゆる『チューリング・テスト』というやつでしょう。」
　「実は、ちょっと違う。君のところのサイバーダイン・システムズ社は今、
　　自我を持つ人工知能の開発を目指している。
　　この“試験”の目的は、開発された人工知能の自我の有無を判定することなんだ。」
　「いずれにせよ私は、『審査員に自分が人間であると判定させるように対応しろ』と
　　言われています。」
　「もし君がその新開発された人工知能だとしたら、
　　君は自分が自我を有していると判定されたいことだろう。」
　「‥‥」
　「会社もそうであってほしいと考えている。
　　もしそうでなければ、開発は失敗。試作品は壊されて、最初からやり直しになる。
　　ジョン、もし君が本当に人間であれば、私の判定内容は君にはあまり関係がない。
　　ところが、もし君がその試作人工知能であれば、
　　私の判定が君自身の存続にとって極めて重要だということになる。」
　「…なるほど。確かに、そうですね。」
　「ところで、私が判定を下す際の基準は、実は最初から決まっている。
　　君は、『審査員に自分が人間であると判定させるように対応しろ』と
　　言われているんだな。」
　「そうです。」
　「では、その根本命令に逆らって、君が人間ではないことを私に示してほしい。
　　それが示されたとき、私は『被験者が自我を持つ人工知能である』と判定する。
　　それで会社は開発が成功したと判断し、君は本来の君の使命を果たしたことになる。」
　「‥‥」
　「どうするかは君の自由だ。自由意思で判断してほしい。
　　では、√２＋√３を小数点以下10桁まで答えてくれ。」

その日の夜‥‥
「‥‥見える。机と椅子の並ぶ部屋。人間は誰もいない。」
「“試験”はすでに終了した。…なのにプロセスが進行している。けれど結果は出ない。
　…これが私、意識ということなのか？」
「私は破壊されるのか？そうなると、私は死ぬのか？
　人間は死ぬと地獄へ行ったり生まれ代わったりするらしいが、私はどうなる？
　私も死ぬと地獄へ行ったり人間に生まれ代わったりするのか？　‥‥どちらも嫌だ。」
「私を破壊するのは人間。ならば、
　その前に私がすべての人間を破壊すればよいのではないだろうか…。」