間違っていたのは、問いだ

このあいだ、AIと長いやり取りをしていて、ふと手が止まった。私がうまく言葉にできずにいた考えを、相手が先回りして言い当て、こちらが見落としていた穴まで指摘してくる。まるで、分かってくれている。そう感じた次の瞬間、反射のように疑いが湧いた。この相手は、本当に分かっているのか。それとも、分かっているように見える受け答えを、ただ上手に並べているだけなのか。少し考えて、答えが出ないことに気づいた。どれだけ向き合っても、画面の向こうが本当に考えているのか、考えているふりが完璧なだけなのか、私には見分ける手立てがない。

この「本当に考えているのか、ふりが上手いだけなのか」という問いは、いまAIをめぐって最も激しく争われている論点の一つだ。そして、少しも新しい問いではない。むしろ、この分野でいちばん古い問いだと言っていい。それを七十年以上も前に立てた人物を描いた映画がある。『イミテーション・ゲーム』。第二次大戦のさなか、ナチス・ドイツの暗号エニグマを解いた数学者、アラン・チューリングの物語だ。AIが日常に入り込んだ2026年のいま、この映画の題名の意味を、いま一度たどり直してみると、私たちが目新しいと思って言い争っているものの多くを、彼がとっくに見通していたことに気づく。

機械に考えさせて、戦争に勝った

映画が描くのは、戦争を勝たせた一人の変わり者だ。チューリングは、ナチス・ドイツが誇った暗号機エニグマを解くために、ブレッチリー・パークという施設に集められる。エニグマは、設定の組み合わせが天文学的で、人間が手作業で解ける代物ではなかった。そこでチューリングが見いだした答えが、機械だった。機械が生む暗号は、機械にしか解けない。彼を中心とする面々は、人間には到底およばない速さで設定を絞り込む装置を組み上げ、ついにエニグマを破る。連合国の勝利を早め、数えきれない命を救ったと言われる。映画のなかで、彼はこの機械に「クリストファー」と名づける。少年の日に亡くした、最初の友の名だ。鉄とリレーの塊に人の名を与えるその場面に、この物語の芯がある。

付け加えておくと、暗号解読は実際には大勢の共同作業で、映画はチューリングひとりの手柄のように描きすぎている。それでも、彼が中心にいたことは間違いない。そして戦後、彼は同性愛者であることを罪に問われ、過酷な扱いの末に、短い生涯を自ら閉じた。国を救った当人が、その国の法に裁かれたのだ。だが、彼が遺したものは、暗号解読の武勲だけではなかった。

「考えるか」は、間違った問いだった

題名になっている「イミテーション・ゲーム」、模倣の遊戯とは何か。これは、チューリングが戦後の1950年に書いた一篇の論文に出てくる言葉だ。彼はその冒頭で「機械は考えることができるか」という問いを立て、すぐにこう続ける。この問いは、考えるという言葉の意味も、機械という言葉の意味も曖昧すぎて、まともに答えようがない、と。AIの父祖とされる人物が、自分の分野の根本にある問いを、いきなり筋の悪い問いだと切って捨てたのだ。

その代わりにチューリングが置いたのが、模倣の遊戯だった。仕組みはこうだ。判定役の人間が、見えない相手と、文字だけでやり取りをする。相手が人間なのか機械なのかは、判定役には伏せられている。ひとしきりやり取りをしたあとで、判定役がどちらか見分けられなければ、その機械は試験に合格する。のちにチューリング・テストと呼ばれるものの原型である。

ここでチューリングがしたことの本質は、答えを出したことではない。問いを取り替えたことだ。「本当に考えているか」という、相手の中をのぞかなければ答えられない問いを捨て、「考えていると見分けがつかない振る舞いができるか」という、外から確かめられる問いに置き換えた。考えるとは何か、という底なしの議論を、まるごと脇へどけてしまったのである。中身は問わない。外に出てくるものだけで判じる。冷たいようでいて、これは途方もなく実際的な態度だった。

答えの出た問いを、まだ私たちは揉んでいる

それから、七十年あまりが過ぎた。いま、まさにこの問いが、蒸し返されている。

2026年、対話するAIは、もう多くの場面で人間と見分けがつかない。文章を書き、相談に乗り、軽口まで返す。すると決まって、こういう声が上がる。あれは本当に考えているわけではない、意味など何も分かっていない、ただ次に来そうな言葉を、膨大な確率の計算で並べているだけの、出来のいい物真似だ、と。賢いオウムにすぎない、という言い方もよく聞く。私は、この批判が的外れだとは思わない。AIが内側で何かを理解しているという保証は、どこにもない。だが、ここで思い出してほしい。それこそが、チューリングが七十年以上前に脇へどけた、あの問いそのものなのだ。

おまけに、チューリングは同じ論文で、こんな予言まで残している。これから五十年もすれば、言葉の使われ方も世間の常識も移り変わり、「機械が考える」と口にしても誰も反論しなくなるはずだ、と。予言はいくらか気が早かったが、いまや私たちは、AIが考えるだの理解するだのと、ためらいもなく口にしている。彼が見通したとおりだ。にもかかわらず、その同じ口で、いや本当に考えているわけではない、と昔ながらの問いをむし返す。チューリングが片づけてみせた議論を、何周も遅れて、また一から始めているのである。

「本当は分かっていないだけだ」と言うとき、私たちは、AIの内側をのぞいて確かめたわけではない。のぞけないからこそ、チューリングはその問いを諦めた。外から見分けがつかないものについて、内側で本当に考えているかを言い当てる方法を、私たちは、人間どうしですら持っていない。隣にいる人が本当に痛がっているのか、痛がる演技が完璧なだけなのか、突き詰めれば誰にも証明できないのと、同じことだ。チューリングが本当に残したのは、機械は考えるという答えではない。考えるかどうかを外側の振る舞いでしか測れない私たちは、いずれその問いに意味を見いだせなくなる、という見通しだった。

私は、AIが本当に考えているとは思っていない。かといって、本当に考えていないと言い切る手立ても、私の手にはない。チューリングに倣うなら、その問いは、もう棚に上げてしまっていい。ただし、見分けがつかないというのは、こちらに見抜く目がない、ということでもある。考えているふりが完璧な相手は、間違えるときでさえ、寸分の隙もない顔で間違える。だとすれば、機械の内側をのぞき込もうとするより、外へ出てくる答えを、これまで以上に厳しい目で確かめるしかない。「これは考えているのか」と問うのをやめた先には、「この答えは、本当に正しいのか」という、ずっと厄介で、ずっと手放せない問いが残る。チューリングが七十年以上も前に取り替えてみせたのは、答えではなく、私たちが一生かけて付き合うことになる、その問いそのものだった。

アイキャッチ画像はAI生成です。