ヒューマンインザループとは｜AIに任せた後、人の手元に残るのは「承認待ちの件数」だけ ── 件数1つで回る3つの前提と、人が輪から出る日の決め方

「AI に任せる」と「人がちゃんと見る」は、両立するのでしょうか。AI エージェントの導入が話題になると、ほぼ必ず「ヒューマンインザループ」という言葉が出てきます。人が輪の中にいる──つまり AI の仕事の流れの中に、人の判断を残すという設計思想です。ところがこの言葉は、聞く人によって正反対に受け取られます。「結局、人が全部見るのか。それなら任せる意味がない」という受け取り方と、「人は要所だけ見ればよい」という受け取り方です。先に結論を書きます。ヒューマンインザループの「人」が持つのは、作業ではなく裁きです。AI に仕事を任せた後、承認する人の手元に残るのは「承認待ちの件数」1 つ──そこまで縮めることができます。ただし、そう縮められるのは、止まる場所・裁ける形・件数の上限を先に設計した場合だけです。この記事では、ヒューマンインザループとは何か(イン・ザ・ループとオン・ザ・ループの違いを含めて)、AI に任せた後に手元から消えるものと残るもの、件数 1 つで回るための 3 つの前提、私たちが毎朝「承認待ち N 件」から一日を始めている運用、そして人がその輪から出る日をどう決めるかまでを、承認する側の目線で整理します。

ヒューマンインザループとは ── 「AI が動き、人が裁く」輪の、人の側の設計

ヒューマンインザループ(Human-in-the-Loop)とは、機械が自動で進める処理の流れ(ループ)の中に、人の判断や確認を組み込む設計のことです。もとは機械学習の分野で、学習データへの印付けや機械の出力の修正に人が入る工程を指す言葉として広まり、いまは自動化・自律システム全般で「人の判断をどこに残すか」を語る言葉として使われています。AI エージェント──目的を渡すと必要な手順を自分で組み立てて実行し、結果まで進める AI──が業務に入るようになって、この言葉は急に身近になりました。エージェントの定義と、その中で人が持つ 3 つの役割(最終確認・責任を伴う判断・やり直しのきかない実行)は「AIエージェントとは」にまとめています。この記事は、その「人」が毎日具体的に何をするのかに絞ります。

この言葉には 2 つの読み方があります。1 つは「AI がやったことを人が全部確認する」という読み方です。安全に見えますが、AI の処理量が増えるほど人の確認が追いつかなくなり、確認は儀式になります。そして全件を見るのなら、その仕事を任せた意味はほとんど残りません。もう 1 つは「人は止まる場所だけを持つ」という読み方です。AI は決められた場所で止まり、人はそこで裁く。それ以外の流れは人を介さずに進む。この記事が扱うのは後者です。人を輪の中に置くことと、人が輪の全部を見ることは、別のことです。

人の位置を言い分ける言葉として、イン・ザ・ループのほかに「オン・ザ・ループ」「アウト・オブ・ザ・ループ」という呼び方があります。一般的な使い分けを表にします。

多くの業務は、イン・ザ・ループから始まり、記録が溜まるとオン・ザ・ループへ移ります。この移り方を、記事の後半で自社の実例と一緒に書きます。なお、人の確認を「全件」ではなく「例外」に置くという置き場所の設計は、「AIエージェントのセキュリティ」の 3 層目で扱いました。ここではその続きとして、確認を受け取る側──承認する人の手元で何が起きるか、に進みます。

AI に任せた後、手元から消えるもの・残るもの

AI に仕事を任せると聞くと、「自分の手元が空になる」と想像する人と、「結局、確認の仕事が増える」と想像する人がいます。私たちの実感はどちらでもありません。手元に残る仕事の量が減るのではなく、種類が変わるのです。消えるものと残るものを並べてみます。

残る 3 つを見ると、どれも「判断」であって「作業」ではありません。承認は、止まる場所で Yes か No を出すこと。差し戻しは、何が違ったかの観点を 1 行で返すこと。ルールの改訂は、任せる範囲と作法を書き換えること。手を動かす仕事は 1 つも残っていません。これは人のマネジメントと同じ形です。新しく入ったメンバーに、初日から送金の権限を渡す会社はありません。最初は要所で確認し、慣れてきたら確認の場所を減らし、やがて月に一度の振り返りだけになる。それでも「お金を払う」「外に送る」「人を評価する」の判断は、最後まで責任者の手元に残ります。AI に任せるときも、残すものの種類は同じです。

ただし、ここで 1 つ注意があります。「判断だけが残る」のは設計した結果であって、任せた瞬間に自然にそうなるわけではありません。設計を省くと、残るのは判断ではなく「確認という名の作業」になります。AI の出力を 1 件ずつ最初から読み直し、何が論点かを自分で見つけ、どう返事すればよいかを毎回考える──これは判断ではなく、AI の作業をもう一度人がやり直しているのと同じです。承認者の手元を「件数 1 つ」まで縮めるには、3 つの前提が要ります。

「承認待ちの件数」1 つで回るための 3 つの前提

承認する人が毎朝見るものを「承認待ちの件数」1 つにまで縮める。そのために、AI 側と人側で先に決めておくことが 3 つあります。どれか 1 つが欠けると、件数を見ても安心にはならず、結局「全部見る」に戻ります。

自社の運用 ── 毎朝の「承認待ち N 件」から始まる一日

ここからは、私たち Livune が自社で回している運用を、一般化して書きます。私たちは AI エージェントの開発・導入支援を行う会社で、同時に、自社の日常業務の多くを AI エージェントに任せています。コラム記事の下書き、その記事の独立レビュー、提案書の骨子、システムの実装とそのレビュー、経営数字の突き合わせ、メールの取得と要約。承認する人は 1 人で、その人の一日は、朝の報告から始まります。

朝の報告の順番は決めてあります。最初に、前の晩から朝までに AI が済ませたことの完了報告です。「何をやったか」ではなく「何が済んだか」を完了形で、成果物の場所つきで、多くても数件。次に、承認待ちの一覧です。1 件 1 行で、それぞれに「承認 / 差し戻し / 後で」の選択肢が付いています。詰まっているものだけ詳しく、残りは件数だけ。その次に計器──期限を過ぎた宿題や、予定どおり動かなかった自動処理の有無。最後に「どれから裁きますか」の 1 行で終わります。タスクの一覧から始めないのが要点です。やることの一覧を朝いちばんに見せられると、人はそれを「自分がやる仕事」として読んでしまい、任せているはずの仕事まで自分の手元に戻ってきます。済んだことを先に見て、自分の手番だけを次に見る。この順番が、手元を「件数 1 つ」に保ちます。

承認待ちを 1 つの数字にまとめる作業は、見た目より手間がかかりました。承認を待つ仕事は、記事・投稿・提案書・経費・請求と、業務ごとに別の箱に溜まります。私たちの場合、箱は 6 か所以上ありました。1 か所だけを読んで「今日は承認待ち 0 件」と報告していた時期があり、実際には別の箱に溜まっていた、ということが起きています。以来、承認待ちは全部の箱を横断して集め、どの箱を読めなかったかも一緒に出すようにしています。この数字を画面に映す側の話は「AIエージェントの管理」に書いたとおりです。

1 つの業務で流れを通してみます。コラム記事です。人が輪の中にいたあいだの流れは、こうでした。AI の執筆担当が記事を下書きし、承認待ちの箱に置く。承認する人は朝の報告でその 1 行を見て、承認なら承認済みの箱へ、差し戻しなら観点を 1 行添えて執筆担当へ戻す。承認済みの箱からは、決まった曜日に 1 本ずつ自動で公開される(この業務の承認はその後、条件つきで人の手を離れました。その経緯は次の章で書きます)。ここに、件数で決めた上限が 3 つ入っています。承認済みの在庫が 7 本を下回ったら執筆担当が補充する。補充は 1 日 2 本まで。そして、捌かれずに溜まっている下書きが 10 本を超えたら新しい下書きを作らない。この 3 つの数字があるので、承認する人が数日見られなくても、記事が際限なく積み上がることはなく、見られる日に溜まった分を裁けば元に戻ります。

裁きの場面の返事も、短く済む形にしています。承認待ちの 1 行に「承認」と返せば、AI 側がその成果物を即座に見せ、次の一手(承認済みの箱へ移す・公開の予定に乗せる)を提案して進めます。「差し戻し」のときは、AI 側から 2 つ問われます。「これは今回限りの調整ですか。それとも、今後も同じ観点で見てほしいですか」。後者なら「○○に『△△』と記録していいですか」と続き、Yes なら、その観点が作法として記録され、次の下書きから最初から反映されます。この 2 問があるので、同じ差し戻しが二度来にくくなります。差し戻しが運用者側の手順書に返っていく流れは「AIエージェントの運用」で書きました。承認者の側から見ると、それは「差し戻しのたびに 1 問だけ答える」という形になります。

人が輪から出る日 ── イン・ザ・ループからオン・ザ・ループへ、件数が教えてくれる

承認待ちの件数と並べて見ている数字が、もう 1 つあります。差し戻しの件数です。この 2 つを並べると、ある時期から、承認は通るのに差し戻しがゼロの週が続くことがあります。これには 2 つの読み方があります。「AI の出力が水準に達して、承認が形式になっている」か、「承認者が中身を見なくなっている」か。外からは区別がつきません。区別するには、週に数件を無作為に抜き取って読み直すしかなく、その置き方は「AIエージェントのセキュリティ」と「AIエージェントの運用」に書きました。そして、抜き取っても誤りが出ない状態が続いたら、その輪は、人が中にいる必要の無い輪になりつつあります。承認待ちの件数は、人がその輪から出てよい日も教えてくれます。

自社の実例を書きます。コラム記事の承認です。約 1 か月のあいだ、承認する人が下書きに修正を求めたことが一度もありませんでした。承認は通るだけで、差し戻しはゼロ。承認が通るだけなら、承認に使う時間のほうが、承認が防いでいるものより大きくなっています。そこで私たちは、コラム記事の承認という 1 つの輪から、人を出すことにしました。ただし、黙って出たのではありません。出るときに 5 つを書きました。

• ①機械の条件 ── 人の目で見ていた項目のうち、機械で見られるものを条件に書き出す。リンク先が実在するか、画像が揃っているか、主な検索語の需要を確かめた記録があるか、効果の数字や誇大な語が入っていないか、製品について正本に無いことを約束していないか。1 つでも外れたら通さない。
• ②別の頭のレビュー ── 書いた AI とは別の AI が、初見で読んで「通す / 止める / 人へ」の 3 値で判定する。明らかな誤りがあれば止まる。作った本人の確認を、確認とは数えない。
• ③止める窓 ── 自動で通った記事は、朝の報告に「本日公開予定」として 1 行並び、1 日のあいだ人が止められる。何もしなければ出る。人は輪の中ではなく、輪の上にいる。
• ④撤退条件 ── 自動で通した記事に公開後の訂正が 1 回でも入ったら、承認制に戻す。戻す条件が先に書いてあるから、出られる。
• ⑤見直し日 ── 開始から 30 日後に、この委任を続けるかを決める。それまでは条件を途中で変えない。

これが、イン・ザ・ループからオン・ザ・ループへ移る、ということです。人は毎日の承認からは外れますが、毎朝の 1 行は見ていて、止める権利を持ち、戻る条件を持っています。輪の外に出たのではなく、輪の上に立っています。承認待ちの件数は、この業務については「本日公開予定」の 1 行に姿を変えました。

1 つ、正直に書いておきたいことがあります。この移行の前に、私たちは一度、間違った形で輪から出かけたことがあります。「承認待ちです。返事が無ければ、このまま出します」という運用です。承認者が忙しいときに、これは便利に見えます。しかし、沈黙は承認ではありません。返事が無いことを Yes として扱う運用は、承認制の形をしたまま、承認が無い状態です。止まる場所の線が「人の Yes」から「人の無反応」にすり替わっていて、そのことに誰も気づきません。私たちはこれに気づいて、沈黙を承認として扱うのをやめ、上に書いた 5 つを書いて、委任として輪から出る形に直しました。輪から出るなら、出る条件と戻る条件を書いて出る。黙って出ない。これが、オン・ザ・ループを放置と分ける線です。

明日から始める最小構成 ── 承認待ちを 1 つにまとめる 4 手順

ここまでの話に、専用の仕組みは要りません。承認待ちを 1 か所に集める道具は、紙 1 枚でも、社内チャットの 1 つのスレッドでも成立します。承認する側が先に決めておくことを、4 つの手順にします。

手順 1: 止まる場所を 3 つ書く ── お金・外への送信・人に関すること

AI に任せる業務の中で、「人の Yes が無いと進まない場所」を文章で 3 つ書きます。最初は、お金を払うこと、外へ送ること(メール・投稿・公開・申請)、人に関すること(評価・採用・個人情報)の 3 つで十分です。本番環境への反映や契約が絡む業務なら足します。大事なのは、ここに「怖いから」を入れないことです。怖さは最初の数週間の全件確認で下げ、止まる場所には「やり直しがきかない」ものだけを置きます。この 3 つを AI に渡す手順書にどう書くか──判断基準・禁止事項・出力形式を文章にする方法は「AIに渡す手順書の書き方」にまとめています。

手順 2: 返事の形を 3 択に決める ── 承認 / 差し戻し / 後で

承認待ちへの返事を「承認」「差し戻し」「後で」の 3 つに固定します。差し戻しには観点を 1 行添える、それ以外の文章は書かない、と決めます。返事の形が決まっていると、承認者は迷わず、AI 側は返事を機械的に次の処理へつなげられます。「後で」が同じ件に 3 回続いたら、それは「後で」ではなく「決められない」であり、論点の立て方が悪いか、その判断を人が持つべきではないかのどちらかです。返事の形を決めることは、承認者の時間を守ると同時に、設計の不備を見つける計器にもなります。

手順 3: 1 件の届け方を 1 枚で決める ── 論点・選択肢・推奨・暫定処置

AI 側に、人の判断を求めるときの書き方を 1 枚で渡します。論点を 1 行、選択肢とそれぞれの帰結、推奨とその理由を 1 行、決まるまでの暫定処置。この 4 つが揃っていない件は、裁きに出さず書き直させる、と決めます。目安として、1 件の裁きに 5 分以上かかるなら、形が崩れている合図です。承認者が成果物を最初から読み直しているか、論点が 1 つに絞れていないか、選択肢に帰結が書かれていないか。裁きの時間が延びたときに直すのは承認者の読み方ではなく、届け方の形です。

手順 4: 件数の上限と、輪から出る条件を先に書く

最後に 2 つの数字を書きます。1 つは承認待ちの上限です。超えたら AI は新しい仕事に着手しない。もう 1 つは、人がその輪から出ることを検討し始める条件です。たとえば「差し戻しゼロが 4 週続き、抜き取りでも誤りが出なかったら、機械の条件と別の目のレビューに置き換える検討を始める」。この条件を最初に書いておくと、全件確認の期間が「いつまで続くのか分からない負担」ではなく「条件が揃うまでの期間」になります。そして出るときは、撤退条件と見直し日を一緒に書く。出る条件と戻る条件を先に書いてある輪は、人がいつでも戻れる輪です。

この記事で触れなかった話が 1 つあります。人が輪から出た後、代わりに輪の中に入る「別の頭」──書いた AI とは別の、疑う側の AI に、どんな基準を渡し、どこまでを判定させ、何を人へ戻させるか。これは承認を委任するときの設計の中核で、別の記事で改めて書く予定です。この記事で持ち帰ってほしいのは、ヒューマンインザループの人が持つのは裁きだけで、その裁きは件数 1 つから始められるという一点です。

Livune は、「作業を AI に任せる仕組み」を構築している会社です。この記事に書いた運用──止まる場所を権限で固定し、1 件を裁ける形で届けさせ、承認待ちを件数で縛り、差し戻しを作法として記録し、条件が揃った輪から人が出る──は、私たちが自分の会社で、毎朝の承認待ちの件数から一日を始めるために作ってきた型そのものです。

よくある質問