人を動かす言葉を、機械が書く

先日、自分で用意した短い文章に、自分で心を動かされた。ある商品の紹介文を、AIに何十通りも書かせる。そのとき私が打ち込む指示——プロンプトもまた、言葉でできている。言葉で機械に命じて、人を動かすための言葉を吐き出させ、その山からいちばん刺さる一文を選ぶ。そういう作業をしていると、ときどき妙なことが起こる。選び抜いた一文を読み返した瞬間、もとをたどれば自分が選んだだけの言葉のはずなのに、胸の奥がほんの少し動く。言葉が、こちらの内側にある何かを、つまみのように回してくる。便利だと思う。それと同時に、薄ら寒いとも思う。入口も出口も、ぜんぶ言葉だ。人を動かす言葉を、私はいま、機械と二人がかりで量産している。

この薄ら寒さの正体を、二十年近く前に小説の形で名指しした作家がいる。伊藤計劃のデビュー作『虐殺器官』だ。刊行は2007年、生成AIという言葉がまだ影も形もない頃である。タイトルの強さでぎょっとする人もいるだろうが、これは血の話に見えて、その芯はどこまでも言葉の話だ。人間を動かす言葉には、動かされる本人にも見えない深い構造がある——その一点の想像が、近未来の戦争小説の背骨に据えられている。言葉を量産する機械を手にした2026年から読み返すと、伊藤が原稿用紙の上で組み立てたその構造は、もう紙の外で動き始めている。

痛みを、消された兵士

物語の舞台は、核テロでサラエボが地図から消えたあとの近未来だ。先進国は、二度とテロを許すまいと、個人認証で国民の一挙手一投足を把握する監視社会へと舵を切った。その内側は、ぶきみなほど清潔で平和である。だが、その平和の外側——豊かでない国々では、内戦と虐殺が果てしなく続いている。主人公のクラヴィス・シェパード大尉は、そうした紛争地へ送り込まれ、虐殺の首謀者を暗殺してまわる、アメリカの情報軍の将校だ。

彼ら兵士の脳には、ナノマシンが仕込まれている。戦闘適応感情調整と呼ばれる処置によって、痛みも、罪悪感も、任務に都合の悪い感情は、あらかじめ薄められている。人を撃っても心がほとんど波立たないように作られているのだ。感じないことが、ひとつの技術として実装されている。そのクラヴィスが追う標的が、ジョン・ポールという一人の言語学者だった。世界のどこかで虐殺が起きるとき、その影には決まって彼の姿があった。

ジョン・ポールが手にしていたのが、「虐殺の文法」である。人間の脳には、言語をあやつる器官が生まれつき備わっている——これは実在する言語学の仮説だ。伊藤は、そこにもう一歩を踏み出す。もし同じ脳の奥に、虐殺をつかさどる器官も眠っているとしたら。そして、ある特定の文法構造を浴び続ければ、その器官のスイッチが入るとしたら。文法は言葉の深いところに隠れているから、浴びせられた本人には、自分が何に動かされているのかが見えない。ジョン・ポールはその文法を、貧しい国々の言語環境にそっと撒くことで、ごく普通の人々を、淡々と隣人に手をかける群れへと変えていった。

なぜ彼がそんなことをしたのか。理由は、彼自身がかつてサラエボのテロで、愛する者を失ったことにあった。二度とあの惨事を母国に起こさせない。そのために彼は、世界の暴力を自国の外へ、遠い貧しい国々の側へと、意図して押し流していた。憎しみが自分たちの国へ向かわないよう、よそで内戦を焚きつける。自分の平和を守るための代金を、顔の見えない誰かに払わせる。これは怪物の論理ではない。むしろ、ぞっとするほど人間的な、身内びいきの論理だ。

物語の終わりで、主人公クラヴィスは、この構図そのものに気づいてしまう。そして彼は、同じ文法を、よその国にではなく、自分の母国に向ける。きれいなままでいられたはずの自分たちの側に、ずっと外へ押し流してきたものを、引き受けさせるために。

その文法は、もう特別ではない

伊藤がこの小説を書いたとき、人を動かす文法は、一人の天才がただ独り掘り当てた秘密として描かれていた。世界にひとつしかないからこそ恐ろしい力だった。ところが、いまの現実では、それはもう秘密でも、天才の専有物でもない。プロンプトという短い言葉で機械に命じれば、人を動かすために最適化された文章が、いくらでも返ってくる。私たちはそれを大量に書かせ、反応を測り、いちばんよく効く配列を選び出す。冒頭で私が机の上でやっていたのが、まさにそれだ。AIに言葉を書かせるという行為そのものが、人を動かす文法を日々あつらえては試す作業になっている。伊藤が一人の悪役にだけ握らせた力は、いまや誰の手にもある、ありふれた道具になった。

もう一つ、現実が小説をなぞっている点がある。あの世界の清潔な平和が、外へ押し流された暴力の上に成り立っていたように、私たちが浴びている便利さもまた、どこかへ押しやられた何かの上に乗っている。なめらかなサービスの裏側で、誰がデータを選り分けているのか。最適化された言葉が、こちらのどんな判断を素通りして効いているのか。ふだん、私たちはほとんど感じない。感じずに済むよう、システムのほうがよくできているからだ。戦闘適応感情調整は、もう小説の中だけの処置ではない。便利さは、こちらの居心地の悪さのほうを、静かに薄めにかかってくる。

器官は、こちら側にある

『虐殺器官』は、監視と管理で人を統べる社会を描いた、数多くの物語の系譜に連なっている。ただし、この小説の管理は、街角のカメラよりも、ずっと内側にまで届いている。何を見られているか、ではない。どんな言葉で動かされ、どんな痛みを感じずに済まされているか、だ。管理の手が、人間のいちばん奥——言葉と、感情の根もとにまで伸びている。そこが、この作品のほかにない冷たさだと思う。

そして、伊藤が並はずれていたのは、虐殺を引き起こす装置を、機械の側にではなく、人間の側に据えたことだ。暴走する人工知能でも、反旗をひるがえすロボットでもない。引き金は、ごく当たり前の人間の脳に備わった「器官」のほうにあり、それを起こすのは、ひとつながりの言葉だった。だとすれば、本当に警戒すべきなのは、言葉を書く機械の側ではない。書かれた言葉に従って動いてしまう器官の側であり、その器官は、機械のなかには一つもなく、私たちのなかにしかない。

私は、人を動かす言葉を機械と一緒に作る仕事を、これからも続けるだろう。その道具を否定する気はないし、よくできていると素直に感心する。ただ、機械がどれほどなめらかに言葉を書けるようになっても、その言葉に従って自分が動くかどうかを決める一点だけは、機械に渡してはいけないと思っている。文法は刷れても、それに逆らうという判断だけは、器官のある側にしか戻せないからだ。便利さに居心地の悪さまで薄められ、自分が何に動かされているのかを感じ取る力まで手放したとき、人は静かに、あの小説の登場人物に近づいていく。伊藤計劃が物騒な題名で名指ししたあの器官は、遠い戦場にだけあるのではない。これを書いている私の頭の奥にも、最初から据わっている。変わったのは、それを揺さぶる言葉のほうだ。かつては天才の発見を待つしかなかった文法を、いまは機械が、安く、いくらでも刷ってくる。刷られた言葉に動かされるのを、こちら側でどこまでこらえられるか。それだけが、器官のある側にずっと残された宿題だ。