任せてよい。ただし、手放すな

AI事業者ガイドラインという、百ページある政府の文書を通読したことがある。総務省と経済産業省が出している、日本のAI活用の「お作法集」だ。法律ではないから罰則はない。だが、企業がAIとどう付き合うべきかを考えるときの、事実上の物差しになっている。現行は令和8年3月31日に公表された第1.2版。この版の柱は、AIエージェントとフィジカルAI——人間が一手ずつ指示しなくても、目標を渡せば自分で段取りを組んで動くAIを、正面から扱ったことだ。文書はエージェントを「特定の目標を達成するために、環境を感知し自律的に行動するAIシステム」と定義している。

百ページの中で、私が一番実務に近いと感じたのは、この定義そのものではない。その先にある、短い一文だ。今日はそこを起点に、「勝手に動くAI」を職場に入れるとき、私たちの側で何を決めておくべきかを考えたい。

「答えるAI」と「動くAI」は、危うさの質が違う

この文書の読ませどころは、礼賛にも警告にも寄り切らないところだ。エージェントについても、複数のシステムと連携しながら自律的に動くことで、調整や分析や意思決定が効率化される、という便益をまず認める。その同じ紙の上で、リスクも書く。入力の経路や外部との連携先が増えるぶん、攻撃を受けうる面も広がる、と。便利さの源泉と危うさの源泉が同じ場所にある、という認識だ。私はこの書き方を信頼する。いいことだけを言う文書も、怖いことだけを言う文書も、実務では使い物にならない。

そのうえで、危うさの質を考えてみる。「答えるAI」の間違いは、まだ画面の中にいる。出てきた答えを採用するかどうか、必ず人間が間に挟まるからだ。おかしな答えなら、捨てればいい。ところが「動くAI」は違う。メールを送る、発注する、データを書き換える。間違いが画面の外に出て、実行されてしまう。答えの間違いは訂正できるが、実行の間違いは取り消せないことがある。同じ「AIのミス」でも、重さがまるで違う。

人間の関与は、設計しないと消える

ガイドラインが提供者側への留意として書いた一文が、まさにここを突いている。人間の判断を介在させる仕組みを構築することが重要である——。一見、当たり前のことを言っているようで、そうではない。答えるAIの時代、人間の関与はわざわざ設計しなくても、自然に確保されていた。答えを使うかどうかの判断が、構造として必ず人間を通ったからだ。エージェントの時代は、その前提が崩れる。目標を渡したら、途中の判断も実行もAIが進めてしまえる。放っておけば、人間の関与は自然に消えていく。だから、意識して「仕組みとして」挟み直せ、と文書は言っている。関与が初期設定だった時代から、関与を設計しなければならない時代への転換だ。

私自身、AIを毎日使うが、使い方には決めごとがある。数字の分析は任せても、なぜそうなったかの判断は自分で詰める。文章の下書きは任せても、自分の名前で出すものは必ず読んでから出す。任せることと、手放すことを分ける。この習慣を、個人の心がけではなく組織の仕組みに引き上げろ、というのが、あの一文の実務的な意味だと私は読んでいる。

確認の場所は、「取り返しがつくか」で決める

では、具体的にどう設計するか。入り口は、自社で使っている、あるいは入れようとしているAIが、「答えるAI」なのか「動くAI」なのかを分けることだ。答えるAIなら、これまでどおり出力を人間が確かめてから使えばいい。動くAIなら、その一連の動きのどこに人間の確認を挟むかを、導入の前に、具体的な条件で決めておく。金額がいくら以上の発注は人間が承認する。社外に出るものは送信前に必ず目を通す。データを書き換える操作は、履歴を残して後から辿れるようにする。紙に書ける程度の、単純な条件でいい。

このとき、挟む場所を選ぶ基準は「取り返しがつくかどうか」だ。すべての動作に確認を挟めば安全だが、それでは自律させる意味がない。やり直しがきく操作——下書きの作成、社内向けの集計、候補の絞り込み——は、思い切って任せる。取り返しのつかない操作——送金、送信、削除、契約——の直前にだけ、人間の関所を置く。頻度で選ぶのではなく、不可逆性で選ぶ。ガイドラインが提供者に求めた「人間の判断を介在させる仕組み」を、利用者の側でも自前の関所として持っておく、ということだ。

百ページの要約は、一行でいい

百ページを全部読む必要はない。私のような物好きが読めばいい。だが、あの文書が「勝手に動くAI」の章で言おうとしていることは、現場の言葉に訳せば一行に収まる。任せてよい。ただし、手放すな。任せる範囲を広げるほど、手綱を握る場所は、意識して決めておかなければならなくなる。

もしあなたの会社で、エージェント型のAI導入が話題になっているなら、性能の比較を始める前に、一枚の紙を用意することを勧めたい。このAIができる操作を書き出し、取り返しのつかないものに印をつけ、その手前に誰の確認を置くかを書き込む。それだけで、導入の議論は「便利かどうか」から「どう任せるか」に変わる。道具の賢さは向こうが決める。手放さない場所は、こちらが決める。

アイキャッチ画像はAI生成です。