AIエージェントの運用｜動かした後に始まる4つの仕事と、任せる範囲を広げる回し方

AI エージェントが動き始めた日、導入のプロジェクトは完了に見えます。ところが、その日からしばらくして起きることには、はっきりした型があります。手順書と実際の業務のズレが見つかっているのに、直されない。人の確認が「ざっと見て承認」に緩む。そして、ある日ふと「あれ、最近これは動いているのか」と誰かが気づく──。私たちは、こうした状態を AI の性能の問題だとは考えていません。AI エージェントの運用が「動いているかを見張る仕事」として設計されていて、「任せる範囲を広げる仕事」として設計されていないことの結果です。運用とは、動いているかを眺めることではありません。動いていることを確かめ、差し戻しを仕組みに返し、記録で任せる範囲を決め直す──この繰り返しが運用であり、これが回っている会社ほど、1 業務目の次へ進みやすくなります。先に結論を書くと、AI エージェントの運用は「確かめる・直す・測る・決める」の 4 つの仕事でできていて、どれも専任の技術者を要しません。要るのは、4 つの仕事にそれぞれ「毎日 / 都度 / 毎週 / 毎月」の置き場所を与えることです。この記事では、4 つの仕事の中身と、それぞれで使う仕組み、そして運用を誰が持つかの分かれ目までを、私たちが自社の日常業務で毎日回している運用をもとに具体的に書きます。

AIエージェントの運用とは ── 「見張る仕事」ではなく「任せる範囲を広げる仕事」

最初に、この記事で言う「運用」の範囲を決めておきます。AI エージェントとは、目的を渡すと必要な手順を自分で組み立てて実行し、結果まで進める AI のことです(言葉の整理と、人が持つ 3 つの役割は「AIエージェントとは」に 1 本にまとめています)。運用とは、その AI エージェントが動き始めた後に、人の側が持つ仕事のすべてを指します。導入の進め方を書いた記事「AIエージェント導入の進め方」では、つまずきの 1 つとして「入れて終わりにする」を挙げ、ツールが動いた日は完了ではなく、運用の初日だと書きました。ただ、その記事は「運用を設計に含める」で止まっています。運用とは具体的に、誰が、毎日何を見て、何を直し、いつ任せる範囲を広げることなのか。この記事は、その中身を書くものです。

人に置き換えると、運用の正体は分かりやすくなります。新しいメンバーが入った初日から、その人を放っておく会社はありません。最初の週は横に付き、できたことを確かめ、間違いを直し、慣れてきたら任せる範囲を広げる。この手当てを省くと、その人は「いるけれど任せられない人」になります。AI エージェントもまったく同じで、運用が無いと「動いてはいるけれど、任せられない AI」になります。運用の目的は、AI を監視することではなく、安心して任せられる範囲を確かめながら広げていくことです。

もう 1 つ、「運用保守」という言葉について整理しておきます。一語で呼ばれることが多いのですが、中身は 2 層に分かれます。保守は、動く状態を保つ仕事です。動かしている環境の更新に追従する、権限の柵が想定どおりかを点検する、止まったときに復旧する。運用は、任せる範囲を広げる仕事です。動いていることを確かめ、差し戻しを手順書に返し、記録を見て、広げるか戻すかを決める。保守は外に頼めます。運用は、その業務を知っている人でないと回りません。この記事は主に運用の側を書き、保守は最後の章で「誰が持つか」として扱います。運用の 4 つの仕事と置き場所は、冒頭のロードマップのとおりです。確かめるは毎日、直すは差し戻しが出た都度、測るは毎週、決めるは毎月。どれも、その業務を知っている人が短い時間で回せる形にできます。順に見ていきます。

運用の仕事 1 ── 動いていることを確かめる(毎日)

運用で最初に置くべきものは、誤りの確認ではありません。「動いているか」の確認です。AI エージェントの事故として想像されるのは「間違ったことをする」ですが、実際に起きやすいのは「何もしていないことに、誰も気づかない」のほうです。前の記事「業務自動化にAIを使う進め方」で、ルール型の自動化にも「止まっていたことに誰も気づかなかった」という古典的な事故があると書きました。AI エージェントは、この事故に一段かかりやすい性質を持っています。動かす環境──パソコン、アプリ、認証──の更新で黙って止まる。定時の起動が、その日だけ飛ぶ。しかも止まっても、画面には何も出ない。そして厄介なのは、「止まっている」と「今日は仕事が無かった」が、外から見ると同じ沈黙だということです。

私たち自身の話をすると、毎朝の定時処理が、パソコンの休止からの復帰のしかたによって予定の時刻に起きないことがあり、数日それに気づかなかったことがあります。そのとき学んだのは、「登録してある」と「動いている」は別のことだ、という単純な事実でした。以来、私たちは動いていることを確かめる計器を、次の 3 つの形で持っています。

• ①「何も無かった」も報告させる。完了報告は、処理した日だけでなく、処理の対象が 0 件だった日にも「0 件でした」と 1 行残させます。沈黙と正常を区別する、最も手軽な方法です。毎朝の報告の 1 行目が来ないこと自体が、異変の第一報になります。
• ②予定と実績を、機械で突き合わせる。定時処理は「予定の表」と「実際に走った記録」を毎朝機械で突き合わせ、走らなかった回を名指しで出します。人が「そういえば今日は来ていない」と思い出す運用にはしません。さらに、予定の時刻を過ぎたのにまだ走っていない処理を起こし直す仕組みまで持てれば、休止・再起動・更新で飛んだ回を、その日のうちに拾えます。
• ③失敗は、回数で鳴らす。1 回の失敗は揺らぎです。通信の一時的な不調や混雑で起きることがあり、毎回通知すると受け取る側が慣れて読まなくなります。同じ処理の失敗が 3 回続いたら構造の問題として鳴らす、と決めておきます。「鳴りすぎない」ことも、計器の設計の一部です。

なお、権限の柵が想定どおりかを AI エージェント自身が動く前に点検し、違っていれば処理をせずに止まって知らせる仕組みは、「AIエージェントのセキュリティ」で書きました。あちらは「止まれる」側の設計、ここで書いたのは「止まったことに気づける」側の設計です。両方が揃って初めて、「動いていない」が「安心」と混ざらなくなります。

運用の仕事 2 ── 直す(都度)── 差し戻しを「その場の修正」で終わらせない

2 つ目の仕事は、直すことです。試運転の期間、人は AI エージェントの出力を確認し、気に入らなければ直します。ここに運用の分かれ道があります。直した内容が「その場」で消えるか、「仕組み」に返るか。その場で直す運用は、翌日また同じ差し戻しが来ます。確認する側は疲れ、やがて直さなくなり、最後には見なくなります。仕組みに返す運用は、同じ差し戻しが二度来ません。差し戻しの 1 回が、手順書の 1 行になるからです。

私たちの運用では、差し戻しを受けたら、直す前に 2 つのことを問うことにしています。1 つ目は「これは今回限りの調整か、それとも今後も同じ観点で見てほしいことか」。2 つ目は、今後もであれば「記録してよいか──どこに、何と書くか」。後者なら、その観点を 1 行にして、AI エージェントが次の作業の前に必ず読む場所へ書き足します。この 2 問を挟むだけで、差し戻しは「その日の不満」から「翌日以降の基準」に変わります。仕組みに返すときの型は、3 つあります。

手順書そのものの書き方──判断の基準、やってはいけないこと、出力の形式をどう文章にするか──は「AIに渡す手順書の書き方」で書きました。ここで足したのは、動かした後に手順書がどう育つか、です。書いた日の手順書は骨格で、差し戻しを返し続けた手順書が本体になります。

運用の仕事 3 ── 測る(毎週)── 任せる範囲を広げてよいかを、記録で決める

3 つ目の仕事は、測ることです。目的は「安心するため」ではなく、「任せる範囲を広げてよいかを決めるため」です。感覚で広げる運用は、うまくいっている気がするときに広げ、何かが起きたときに一気に縮める、の繰り返しになります。記録があれば、広げる判断も戻す判断も、同じ物差しでできます。そして測る数字は、多くは要りません。次の 4 つで足ります。

4 つ目の「使った量」について、1 つ強くおすすめしたいことがあります。上限は、AI エージェントが自分で上げられない場所に置くことです。私たちの運用では、たとえば記事の画像の生成に 1 日の枚数の上限を置き、それを AI 側からは変えられない環境の設定として縛っています。同じ文言の画像が 3 回続けて検品に通らなければ、作り直しをやめて人に報告する、とも決めてあります。上限に当たったとき、AI エージェントがやることは「上げて再試行」ではなく「止めて報告」です。課金の判断は人が持つ。これは AI を信用していないからではなく、使った量が青天井にならない形にしておくと、運用する側が数字を安心して見られるからです。上限が無い運用では、「使った量」は判断の材料ではなく、請求書が来てから知る結果になります。

測る仕事には、もう 1 つ含めておくものがあります。差し戻しがゼロの週が続いたとき、それが「完璧に動いている」のか「誰も見ていない」のかは、外からは区別がつきません。だから週に数件、無作為に抜き取って人が確かめる──この監査の置き方は「AIエージェントのセキュリティ」で書いたとおりです。測る仕事の中に、確認する側を確認する仕組みまで含めておくと、数字が「見た形」ではなく「見た事実」を表すようになります。

運用の仕事 4 ── 決める(毎月)── 広げる・戻す・止める

4 つ目の仕事は、決めることです。月に 1 回、その業務を知っている人と運用の担当が、ここまでの 3 つの仕事の記録を見て、3 つのうちどれかを決めます。会議は短くて構いません。見るものと決めることが、あらかじめ決まっているからです。

• ①広げる。差し戻しの割合が事前の水準を下回り続け、例外の件数が人の見られる量に収まっている──この 2 つが揃ったら、任せる範囲を一段広げます。順番は、確認を「全件」から「人が止めなければ進む」へ、次に「例外だけを見る」へ、と同じ業務の中で深くしてから、隣の工程へ横に広げる。この順番の理由は「AIエージェント導入の進め方」のステップ 5 で書いたとおりで、1 業務目で運用の型が固まっていれば、2 業務目の立ち上げは速くなります。
• ②戻す。差し戻しが増えた、例外が増えて人が見きれない──そのときは、任せる範囲を一段縮めます。ここで大事なのは、戻すことを失敗として扱わないことです。任せる範囲の線は、動かして初めて分かるものなので、戻せる運用は健全な運用です。戻した理由を 1 行残しておくと、次に広げるときの判断材料になります。
• ③止める。処理の件数が 0 に近い(その業務が無くなった、または使われていない)、使った量が上限に張り付いている、抜き取りで誤りが見つかっているのに差し戻しがゼロのまま──こうした状態なら、いったん止めて設計に戻ります。止めることを決められる場が無いと、「動いてはいるが、誰も見ていない AI」がそのまま残ります。止めるのは後退ではなく、設計をやり直すための前進です。

この会議の型を 1 行にすると、「見る数字は 3 つ、決めるのは 3 択、記録は 1 行」です。数字は、表の 4 つのうち判断に使う差し戻しの割合・例外の割合・使った量。決めるのは、広げる・戻す・止める。そして決めたことは、議事録ではなく手順書に返します。任せる範囲が変わったなら、手順書の該当する行が変わるはずで、変わっていなければ AI エージェントには何も伝わっていません。運用の会議の出力は、議事録ではなく手順書の差分です。

AIエージェントの運用は誰が持つか ── 自社で回す・保守を頼む・伴走で持つ

最後に、この 4 つの仕事を誰が持つかを整理します。「運用保守」を外に頼めるのか、頼んだら自社に何が残るのか──ここが、運用の計画でいちばん曖昧になりやすい場所です。持ち方は大きく 3 つあり、それぞれで外に出せる仕事と、自社に残る仕事が違います。

表を見ると分かるとおり、運用の 4 つの仕事のうち「決める」は、どの持ち方でも外に出せません。任せる範囲を広げるか戻すかは、その業務の責任者が決めることです。「直す」も、差し戻しの観点そのものは、その業務を知っている人にしか出せません(観点を記録して AI に読ませる仕組みの側は、外に頼めます)。つまり「運用をまるごと外注する」という形は、判断の部分を外に出せないため、期待どおりには機能しにくいのです。外に出せるのは保守と、運用を回すための仕組みの側であって、運用の判断ではない──ここを最初に押さえておくと、外部に頼むときの期待がずれません。

ここまでは、運用する側から見た 4 つの仕事を書きました。この裏側には、あと 2 つ、稿を改めて書きたいことがあります。1 つは、承認する側の手元に何が残るか──AI に仕事を任せた後、承認者が毎朝見るものを「承認待ちの件数」1 つにまで縮められる条件の話。もう 1 つは、任せた仕事の状態を、誰が・何を・どこまで・終わったかの形で画面に映す可視化の話です。どちらも、この記事の 4 つの仕事が回っていることを前提にした、次の段階の設計になります。

Livune は、「作業を AI に任せる仕組み」を構築している会社です。この記事に書いた運用──完了報告と予定の突き合わせで動いていることを確かめ、差し戻しを作法として記録し、上限を件数で縛り、記録で任せる範囲を決め直す──は、教科書からの引き写しではなく、私たち自身が自社の日常業務で AI エージェントを毎日回すなかで作ってきた型そのものです。

よくある質問