「AIエージェントにどこまで任せてよいのか、判断の基準が分からない」
このページでは、AIエージェントに任せる範囲を、操作の取り返しのつきにくさで決める方法を説明します。あわせて、段階ごとに人が決めることと、段階を上げても人が受け持つ判断を説明します。
- AIエージェントに仕事を任せることは、AIエージェントに権限を与えることです。
- 権限は操作の取り返しのつきにくさで5段階に分け、1業務ずつ、低い段階から1段階ずつ広げてください。
- どの業務をどの段階まで任せるかは経営者が決め、日々の生成物の確認は使う人が行います。
- 送信、公開、支払い、削除のような外部に出る操作は、最後のボタンを人が押してください。
このページで出てくる言葉の意味は用語一覧で確認できます。
業務でどう使うか
- お礼メールの下書きのような1回で終わる文章づくりは、答えるだけの段階で任せる
- 毎月同じ手順で進める集計や請求書づくりは、手順が固まってからループで任せる
- 権限を広げるときは、1つ下の段階でうまくいった業務から始める
- 「メールを見て必要な対応を全部やって」のように、範囲を決めずに任せる
- ループの中に、メールの送信や支払いのような外部に出る操作を入れる
- 1つの業務で、2段階以上をまとめて上げる
任せる範囲と権限の関係
AIエージェントに任せる範囲を決めることは、AIエージェントに与える権限を決めることです。権限とは、AIエージェントがどの機能を、人に確認せずにどこまで使ってよいかの範囲です。『変わらない5つの問い』の 権限にあたります。
AIエージェントに任せる範囲は、操作の取り返しのつきにくさで決めてください。便利さで決めると、誤ったときに元に戻せない操作まで任せてしまうためです。
取り返しのつきにくさは、次の3点で判断できます。
- AIエージェントが誤ったとき、人が元の状態に戻せるか
- 誤ったとき、人が被害に気づけるか
- 誤りの影響が、お客様や取引先、お金に及ぶか
取り返しのつきにくさの段階
AIエージェントに与える権限は、取り返しのつきにくさの順に5段階に分けられます。段階が上がるほど、人が先に決めることが増えます。
数字が大きいほど、取り返しがつきにくい操作です。
本ガイドは、5の段階を勧めません。人が内容を確かめてから、送信ボタンを押してください。
段階は、1業務ずつ、1段階ずつ上げてください。1つ下の段階で生成物が安定していれば、次の段階で誤りが起きたときに原因を絞り込めるためです。
社員から「どこまでAIに任せていいですか」と聞かれたら、「失敗したら元に戻せますか」と聞き返してください。答えが「戻せない」なら、その操作は人が行います。
段階ごとに人が設計するもの
段階が上がるほど、人が設計するものが増えます。後から加わるものは前のものを置き換えず、ループを任せる段階でもプロンプト(AIへの指示)とコンテキストの設計は必要です。
- プロンプト
- AIエージェントに渡す指示。何を作るか、何をしないかを書く。
- コンテキスト
- プロンプトに加えてAIモデルに渡す情報全体。資料、ルールを書いたファイル、これまでのやりとりを含む。
- ハーネス
- AIモデルを実際の作業に使えるようにする仕組み。人は、触れてよい範囲と止める地点を設定する。
- ループ
- 情報を集める、作業する、結果を確かめる、をAIエージェントが自分で繰り返す動き方。人は、止まる条件と確かめ方を決める。
下の表は、上の5段階それぞれで新たに人が設計するものを、請求書づくりの例で示します。
| 段階 | 新たに人が設計するもの | 請求書づくりでの例 |
|---|---|---|
| 答えるだけ | プロンプト、コンテキスト | 取引先名と金額を渡し、AIエージェントが文面を作る。人が請求書のファイルに転記する |
| 読むだけ | 読むだけに限るハーネスの設定 | AIエージェントが売上表を読み、取引先ごとの合計を報告する |
| ファイルを書き換える | ハーネス。繰り返させるならループ | AIエージェントが請求書のファイルを作り、人が中身を確かめる |
| 外部サービスに接続する | ハーネス。繰り返させるならループ | AIエージェントが会計ソフトの売上を読む。書き込みの前に人の確認をはさむ |
| 外部に出る操作を無人で行う | 勧めない段階のため設計しない | 人が請求書を確かめてから送信する |
経営者が決めること
ハーネスの設定のうち、経営者が決めるのは次の3点です。
- AIエージェントが作業するフォルダ
- AIエージェントに禁じる操作
- 実行の前に人の確認を求める操作
フックとは、Claude Code(Anthropic 社が提供するAIエージェント)の決まったタイミングで自動実行される、利用者が定義した処理です。必ず止めたい操作は、フックで実行前に止めてください。プロンプトに「削除しないで」と書くだけでは、AIエージェントが従わないことがあるためです。
設定は詳しい人に頼んでよいこと
設定ファイルの書き方は、Claude Code に詳しい人に頼んでかまいません。頼むときは、任せる業務とその段階、上の3点を渡してください。設定が終わったら、使う人が禁じた操作を試しに頼み、止まることを確かめてください。
関連:『AIに与える権限』
ループの止まる条件を決める
ループでは、人が毎回プロンプトを渡さなくても作業が進みます。その分、止まる条件があいまいだと、AIエージェントは終わったように見える地点で止まるか、止まらずに繰り返し続けます。
月末の請求書づくりで、合格の条件を「取引先ごとの請求書ファイルがそろい、合計が売上表と一致する」と決めます。AIエージェントは請求書を作って照合し、ずれがあれば直し、条件を満たしたら止まって報告します。合格の条件が「請求書を作る」だけだと、合計が合わなくても止まります。
関連:『現時点の仕様』の『定期実行と繰り返し』
人が受け持つ判断
AIエージェントに任せる段階を上げても、次の判断は人が受け持ちます。
- 最後のボタンを押す
- 送信、支払い、公開、削除は、人が内容を確かめてから押す。プロンプトで頼むだけだと守られないことがあるため、設定でも止める。
- 確認役を分ける
- 生成物は、作ったAIとは別の確認役に確かめさせる。サブエージェントとは、元のセッションとは別のコンテキストで動き、専用のプロンプトと使える機能を持つAIエージェントです。確認役に使うと、作ったときの思い込みを持ち込まずに確かめられる。
- 頼み直す
- 同じ直しが2回続いたら、/clear で履歴を消し、分かった条件を盛り込んだプロンプトで始め直す。
- 責任を負う
- どの契約プランで使っても、契約と法律上の責任はAIに移らず、AIを使った人に残る。
問い合わせ返信の文面を「もっと丁寧に」と2回直しても納得できないとき、3回目の直しは頼みません。「敬語を使う。謝罪の言葉は1回だけ」のように、2回の直しで分かった条件を最初のプロンプトに書いて頼み直します。
関連:『生成物の検証』
関連:『法律とガイドライン』
まとめ
- AIに任せたい業務を1つ選び、「失敗したら元に戻せるか」を確かめて、任せる段階を決めてください。
- 作業するフォルダ、禁じる操作、人の確認を求める操作を書き出し、設定を詳しい人に頼んでください。
- 使う人が生成物を確かめ、安定した業務から1段階ずつ広げてください。