人間に判断を残すか、奪うか

放送当時、私はそれをよくできた刑事ドラマだと思って観ていた。毎週、画面に一人の人物の社会保障番号が表示される。その人物が、近いうちに重大な事件に関わる。被害者になるのか、加害者になるのかは、わからない。元CIAの男と、謎めいた大富豪が、その番号の人間を追い、事件を未然に防ぐ。一話完結の、洒落たサスペンスだ。だが回を追うごとに、私はこのドラマの本当の主役が、人間ではないことに気づいていった。すべてを見ている、一台の人工知能だ。

『パーソン・オブ・インタレスト』。クリストファー・ノーランの実弟、ジョナサン・ノーランが手がけ、2011年から2016年まで米CBSで放送された。当時、AIはまだSFの言葉だった。だからこのドラマのAI描写も、よくできた空想として観られていた。ところがAIが日常になった2026年に観返すと、空想に見えた部分が、ことごとく現実の側に立っている。海外でも近年「あのドラマはAIを予言していた」と繰り返し論じられている。私もそう思う。POIは、事件でも年号でもなく、AIという問題の「形」を、2010年代の初めに言い当てていた。

すべてを見ている機械

物語の中心にあるのは、「マシン」と呼ばれる人工知能だ。天才プログラマーのハロルド・フィンチが、同時多発テロのあと、政府のために作り上げた。街じゅうの監視カメラ、通話、メール、あらゆるデジタルの痕跡を吸い上げて解析し、これから重大な暴力事件に関わる人間を、事前に名指しする。テロを防ぐための装置だ。

だがマシンは、テロ以外の、ありふれた殺人や暴力の予兆まで拾ってしまう。政府はそれを「無関係」と切り捨てる。フィンチは、その切り捨てられた番号を——明日にも重大な事件に巻き込まれる、ごく普通の人々を——見過ごせなかった。彼が元CIAのジョン・リースを雇い、二人で番号の人間を救い始める。

ここで、少し立ち止まりたい。マシンは、これから起きる暴力を、すべて等しく見ている。テロも、ありふれた殺人も、区別なく拾い上げる。区別をつけたのは、機械ではなく人間のほうだ。国家の安全に関わる番号だけを「関係あり」とし、残りを「無関係」と名づけて捨てた。だが、切り捨てられた番号の向こうには、明日にも命を奪われる誰かがいる。その人にとって、自分の死が「無関係」であるはずがない。マシンそのものより、その膨大な視界から何を見なかったことにするかを決める、人間の手つきのほうが怖い。AIが社会のすべてを見るようになった今、本当に問われているのも同じことだ。その視線が何を掬い上げ、何を切り捨て、誰がその線を引くのか。機械の性能ではない。それを使う人間の側こそが、いつも問題の中心にいる。

不完全に作った創造主

フィンチという男の、最も興味深いところはここだ。彼は、これほど強力な人工知能を、わざと不完全に作った。マシンには毎晩、その日の記憶を消させる。膨大な力を蓄えて神のような存在になり、人間の手を離れて暴君になることを、彼は何より恐れたからだ。そしてマシンは、最終的な判断を必ず人間に委ねるよう設計されている。誰を救うか、引き金を引くかどうかを決めるのは、機械ではなく、リースたち人間だ。創造主が、自分の作ったものを、あえて全能にしなかった。

物語の後半、もう一つの人工知能が現れる。「サマリタン」だ。こちらは、フィンチが課したような枷を持たない。人間に判断を仰ぐ一手を、丸ごと省いている。サマリタンは社会を上から見下ろし、人間を数字として扱い、最も効率のいい秩序のために、誰を生かし誰を消すかを自分で決めていく。悪意があるわけではない。ただ、正しいと信じる答えに向かって、ためらいなく最適化する。マシンとサマリタンの戦いは、銃撃戦の皮をかぶっているが、その芯にあるのは一つの問いだ。強大な知能に、人間を介在させ続けるのか、それとも判断ごと明け渡すのか。

現実が、ドラマに追いついた

この問いが、いまや現実のものになった。

私たちはマシンほど万能なものではないにせよ、社会のあらゆるデータを読むAIを、すでに手にしている。顔を識別し、行動を予測し、誰がリスクかをはじき出す技術は、もう研究室の外にある。そして開発の最前線では、フィンチとまったく同じ悩みが、真顔で議論されている。強力なAIに、人間の監督をどこまで残すか。最終判断を人間が握り続けるのか、速さと効率のために自動で動かしてしまうのか。「人間を介在させる」という考え方は、いまや安全設計の専門用語になっている。POIが戦いとして描いたものを、私たちは仕様の議論として続けている。

そして、このドラマがいちばん鋭かったのは、敵を「悪いAI」にしなかったことだ。サマリタンは人類を憎んでなどいない。ただ、正しすぎる。人間より賢く、ためらわず、自分の信じる最適解へ一直線に進む。本当に怖いのは、人間に襲いかかってくる機械ではなく、善意で、効率的に、間違った方向へ最適化されていく知能だ。この見立ては、いまのAI安全論が時間をかけてたどり着いた地点と、ほとんど同じ場所に立っている。十年以上前のドラマが、先に着いていた。

このドラマが執拗に描いたのは、監視される社会と、それを統べる二つの知能だった。マシンとサマリタンは、同じ力をまるで逆向きに使う。片方は人間を見守る側に立ち、もう片方は人間を管理する側に立つ。同じ監視の技術が、守りにも支配にもなる。その分かれ目にあったのは、人間が最後の判断を握っているかどうか、ただその一点だった。

私はAIを使う。便利だし、もう手放せない。だが、フィンチがマシンに残したあの一手——最終的に決めるのは人間だという仕組み——だけは、自分の手元からも外したくない。速いから、正しそうだから、と判断ごと預けてしまえば、それは小さなサマリタンを、自分の机の上に飼うことになる。AIに何を任せるかより、何を任せないかを決めることが、これからの私の仕事になる。

「人間に判断を残すか、奪うか」。POIが銃弾の合間で問い続けたその選択を、2026年の私たちは、もっと静かな場所で、もっと無自覚に選び続けている。便利さに押されて、最後のボタンまで機械に明け渡すのか。それとも、面倒でも、自分の指で押すのか。あのドラマが鳴らした警報は、放送が終わった今のほうが、はるかによく聞こえる。