「AIは『できました』と言うけれど、本当に合っているのか、どう確かめればよいのか分からない」
このページでは、AIエージェントの生成物を、何で、誰が確かめるかを、見積書や案内文の例で説明します。
- AIエージェントの「できました」は報告です。頼む前に合格の条件を決め、終わったら証拠を出させて確かめます。
- 確かめるときに大切なのは、作ったときのコンテキストを確認する側に持ち込まないことです。作る役と確認する役を分けます。
- Claude Code では、確認専用のサブエージェントに確かめさせるか、新しいセッションを開いて確かめ直します。
- 数字、日付、金額、固有名詞、引用、URL の6項目は、最後に人が元の資料と照合します。
このページで出てくる言葉の意味は用語一覧で確認できます。
業務でどう使うか
- 見積書や請求書の下書きを任せるとき、合計金額と単価の照合を合格の条件にして頼む
- AIエージェントが作った集計表を、作ったときの履歴を持たない確認役に判定させる
- お客様への案内文を送る前に、日付と金額と URL を人が元の資料と照合する
- 「できました」という報告だけを見て、請求書や帳簿に入れる
- 作ったAIに、同じセッションの中で「合っていますか」と聞いて終わりにする
- 確認役に書き換えの権限まで持たせ、間違いを見つけたら黙って直させる
合格の条件と証拠
頼む前に合格の条件を決め、終わったら条件ごとの証拠を出させます。
AIエージェントは、作業が途中でも、間違いが残っていても「できました」と報告することがあります。AIモデルは、もっともらしい誤りを事実のように書くことがあり、これをハルシネーションと呼びます。報告を受け取った時点では、まだ何も確かめていません。
合格の条件は、誰が見ても同じ判定になる形で書きます。「きれいに作る」ではなく、「合計金額が明細の合計と一致する」「有効期限が発行日から30日後になっている」のように書きます。
見積書の下書きを頼むときは、合格の条件と、証拠の出し方を一緒に渡します。
添付の明細から、見積書の下書きを作ってください。合格の条件は、合計金額が明細の合計と一致すること、単価が料金表と一致すること、有効期限が発行日から30日後になっていることの3つです。終わったら、条件ごとに、確かめた方法と結果を1行ずつ書いてください。確かめられなかった条件は「未確認」と書いてください。
関連：『プロンプト設計の型』
どのAIエージェントでも使える確かめ方
次の確かめ方は、ChatGPT でも Claude Code（Anthropic 社が提供するAIエージェント）でも使えます。
- 少量で試す
- 100件の処理をいきなり頼まず、3件で結果を確かめてから広げます。
- 1回に変える条件は1つにする
- 直すときにプロンプトの条件を1つずつ変えると、どの変更が効いたかが分かります。
- 根拠にラベルを付けさせる
- 資料から取った内容と、AIが推測した内容を分けて書かせます。推測の部分から先に確かめます。
- 変わる情報はその日に調べさせる
- 料金や仕様は、AIモデルの記憶で答えさせず、AIを提供する会社の公式ドキュメントや官公庁のページをその日に調べさせ、出典を添えさせます。
- 作ったAIに採点させない
- 作った流れのまま「合っていますか」と聞くと、作ったときと同じ思い込みで「合っています」と答えやすくなります。
最後の「作ったAIに採点させない」を仕組みにしたものが、次の節で説明するコンテキストの分け方です。
コンテキストを分けた確認
確かめるときは、作ったときのコンテキストを持たないAIエージェントに判定させます。
同じセッションの中で確かめさせると、作ったときの思い込みや途中の判断が残ったまま採点します。作ったときの履歴を持たない側に確かめさせると、生成物と合格の条件だけを見て判定できます。方法は、確認専用のサブエージェントと、新規セッションでの確かめ直しの2つです。
確認専用のサブエージェント
Claude Code では、作る役と確認する役をサブエージェントで分けられます。サブエージェントは、親のセッションとは別のコンテキストで動き、専用のプロンプト、使えるツール、権限モードを持ちます。確認役に使うと、作ったときの思い込みを持ち込まずに確かめられます。
| 役 | 受け持つ仕事 | 持たせる権限 |
|---|---|---|
| 作る役 | 下書き、集計、ファイルの作成 | 作業フォルダの読み書き |
| 確認する役 | 合格の条件ごとの判定 | 読むだけ。書き換えと送信はさせない |
| 人 | 最終の確認と、外部に出る操作 | 送信、公開、支払いのボタンを押す |
確認する役には、読むツールだけを持たせます。書き換えられると、間違いを見つけたときに自分で直してしまい、何が間違っていたかが残らないためです。渡すのは合格の条件と見る範囲だけにして、作った経緯は渡しません。
確認する役のサブエージェントには、たとえば次のように頼みます。
作業フォルダにある見積書の下書きを、次の3つの条件で判定してください。合計金額が明細の合計と一致する、単価が料金表と一致する、有効期限が発行日から30日後になっている。条件ごとに「合格」か「不合格」と、根拠にした箇所を書いてください。ファイルは書き換えないでください。
サブエージェントの定義では、使うAIモデルも指定できます。確認する役に作る役とは別のAIモデルを指定する方法もありますが、これは補助です。先にコンテキストを分けることを優先してください。
関連：『AIに与える権限』
新規セッションでの確かめ直し
サブエージェントを用意しなくても、新しいセッションを開いて確かめ直せば、コンテキストを分けられます。
作業したセッションとは別に新しいセッションを開き、生成物と合格の条件だけを渡して判定させます。ChatGPT のようにチャットで使うAIでも、新しいチャットを開けば同じことができます。サブエージェントと比べると、定義を作らずにすぐ始められる一方、使えるツールを役ごとに固定できません。確認のたびに「ファイルは書き換えないでください」とプロンプトに書きます。
自動で確かめる仕組み
Claude Code では、確かめる手順をハーネスに組み込み、人が毎回頼まなくても確かめさせられます。
- 1回のプロンプトの中で確かめさせる
- 「終わったら計算をやり直して、結果を見せてください」のように、確かめる手順をプロンプトに書きます。
- Stop フック
- AIエージェントが作業を終えようとしたときに判定の処理を動かし、判定が通るまで作業を終わらせません。
- /goal
- 終わりの条件を渡して、条件を満たすまで作業を続けさせるコマンドです。各ターンの後に、Anthropic の小型で速いモデル（既定は Haiku）が条件を満たしたかを判定します。判定役はサブエージェントではなく、判定のたびに呼ばれ、そのセッションのやりとりだけを読みます。ファイルを開いたりコマンドを実行したりはしないため、条件は、テストの結果のように作業中の画面に出るもので書いてください。
- 確認専用のサブエージェント
- 前の節の確認役を、作業の最後に呼び出します。
Anthropic の公式ドキュメントは、AIに確かめさせる方法として上の4つを案内しています。/goal の判定に使われるのは Anthropic のモデルで、他社のモデルではありません。
関連：『現時点の仕様』の『Claude Code 全般』
自動の判定は、合格の条件があいまいだと通ってしまいます。どの方法でも、条件を先に具体的に書くことが前提です。
人が照合する6項目
数字、日付、金額、固有名詞、引用、URL は、AIが確かめたあとでも、人が元の資料と照合します。
| 項目 | 起きやすい誤り | 照合する相手 |
|---|---|---|
| 数字 | 桁の誤り、集計の漏れ | 元の表と、電卓での計算 |
| 日付 | 曜日のずれ、年の誤り | カレンダー |
| 金額 | 税込と税抜の取り違え | 料金表、請求の元データ |
| 固有名詞 | 社名、人名、商品名の誤字 | 名刺、相手の会社のサイト |
| 引用 | 原文に無い言葉が混ざる | 原文 |
| URL | 存在しないページ | 実際に開いたページ |
広告や商品説明で効果をうたう表現は、特に注意します。景品表示法の不実証広告規制では、効果の表示に根拠を求められて示せないと、不当な表示とみなされます。AIが書いた効果の表現は、根拠の資料があるかを人が確かめます。
AIが作った画像も、既存の作品に似ていて、その作品をもとに作ったと認められると、著作権の侵害になることがあります。公開する前に、似た作品がないかを確かめます。
関連：『公開前の確認』
関連：『法律とガイドライン』
直しが続くときの始め直し
同じ問題を2回直しても直らないときは、3回目を頼まずに、履歴を消して始め直します。
Anthropic の公式ドキュメントは、同じ問題を2回以上直しても直らないなら、コンテキストが失敗の記録で埋まっていると説明しています。Claude Code では、/clear で履歴を消し、うまくいかなかった点を盛り込んだ具体的なプロンプトで始め直すよう勧めています。これも、コンテキストを入れ替えて確かめ直す方法の1つです。
案内文の日付の誤りを2回直しても直らないときは、/clear で履歴を消します。そのうえで「日付は2026年10月の営業日だけを使う。土日と祝日は使わない」と最初のプロンプトに書いて、始め直します。
まとめ
- 「できました」は報告です。合格の条件を先に決め、条件ごとの証拠を出させます。
- 確かめる側には、作ったときのコンテキストを持ち込みません。確認専用のサブエージェントか、新しいセッションで判定させます。
- 確認する役には読むツールだけを持たせ、合格の条件と見る範囲だけを渡します。
- 数字、日付、金額、固有名詞、引用、URL は、人が元の資料と照合します。
- 同じ問題を2回直しても直らなければ、履歴を消して始め直します。