「AIエージェントに任せた作業で事故が起きた。最初の1時間で何をすればよいかが分からない」
このページでは、認証情報の漏えいと不正なログイン、間違った内容の公開、AIエージェントの想定外の操作が起きたときに、最初の1時間でやることと、AIエージェントが何をしたかを確かめる場所を説明します。
- 最初の1時間は、止める、範囲を見積もる、差し替えと復旧、記録、関係者への連絡、の順に進めてください。
- 認証情報が漏れたら、漏れた場所から消すより先に、発行元の管理画面で無効にしてください。
- 公開や送信は取り消せないため、見られた前提で影響の範囲を見積もってください。
- AIエージェントに変更を頼む前に今の状態を記録しておくと、事故のあとで何が変わったかを確かめて戻せます。
このページで出てくる言葉の意味は用語一覧で確認できます。
業務でどう使うか
- AIエージェントを外部サービスに接続する前に、止める画面の場所を確かめておく
- 事故が起きた直後に、該当する事故の手順を番号順にたどる
- 見積書のひな形を AIエージェントに直させる前に、今の状態を記録する
- 3か月ごとに、接続の一覧と利用料の上限額を見直す確認表にする
- 原因を調べ終わるまで、公開や自動処理を止めずにおく
- 漏れた認証情報を消しただけで、無効にしないまま終える
- 事故を使う人が1人で抱え、経営者や取引先に知らせない
- 個別の法的な判断を、このページだけで済ませる
最初の1時間の進め方
どの事故でも、原因の調査や問題のファイルの削除は後に回し、被害が広がる元を止めることから始めてください。
番号は着手する順番です。最初の『止める』を終えてから、次へ進んでください。
| 事故の種類 | 止める | 差し替えと復旧 |
|---|---|---|
| 認証情報の漏えい | 発行元の管理画面で無効にする | 新しいAPIキーやパスワードを作り、置き直す |
| 不正なログイン | パスワードを変える。ログインできなければ再設定を試す。作った覚えのないAPIキーを無効にする | 登録情報を確かめて自分のものではない情報を削除し、まだ設定していなければ2段階認証を設定する |
| 間違った内容の公開 | 共有リンクや公開ページを取り下げる | 訂正を出し、正しい文書を送り直す |
| AIエージェントの想定外の操作 | 動作を中断し、接続を外す | 変更前の記録や控えから戻す |
| 請求の急増 | APIキーを無効にするか、自動処理を止める | 到達したら止まる上限を設定する |
経営者は、使う人に「止めてから報告してよい」と先に伝えてください。止める判断に経営者の許可が要ると、その待ち時間に被害が広がるためです。
認証情報の漏えいと不正なログイン
APIキーやパスワードが漏れたら、漏れた場所から消すより先に、発行元の管理画面で無効にしてください。
公開された値は、気づくまでの間に誰かが写し取っているかもしれず、元の場所から消しても写しは残ります。無効にすれば、写しの値も使えなくなります。Claude Code（Anthropic 社が提供するAIエージェント）のチャットに書いたAPIキーも、PCのセッション記録と Anthropic のサーバーの両方に残るため、漏れたものとして扱ってください。
Anthropic のAPIキーは、公開の GitHub リポジトリで検出されると自動で無効になります。それでも疑いがあれば、管理画面で削除して作り直してください。
関連：『現時点の仕様』の『変更の記録と、認証情報が漏れたとき』
アカウントに不正にログインされたとき
身に覚えのないログインの通知や、作った覚えのないAPIキーに気づいたら、次の順に進めてください。
パスワードの変更、登録情報の確認と削除、2段階認証の設定、サービスの窓口への相談は、IPA が2025年8月28日の注意喚起で、不正にログインされたときの対処として示している内容です。富山県警察は、不正アクセスの被害を受けたら警察に通報するよう呼びかけています。
関連：『不正アクセスへの備え』
2026年10月時点では、不正なログインで顧客や従業員の個人データが漏れたとき、または漏れたおそれがあるときは、内容や件数によっては、個人情報保護委員会への報告と本人への通知が必要になります。該当するかどうかと期限は、委員会の案内を確かめたうえで、弁護士などの専門家に相談してください。
関連：『法律とガイドライン』
間違った内容の公開
間違った内容を公開や送信したら、取り下げてから、見られた前提で影響の範囲を見積もってください。
顧客名が入ったチャットの共有リンクを取引先に送った、下書きの請求書を別の取引先に送った、存在しない割引を問い合わせの返信で案内した、といった事故です。公開を止めても、他人が保存した写しや、相手の受信箱のメールは消せません。見られていないことは、後から確かめられないためです。
広告や販売ページの表示の責任は、AIでもAIを提供する会社でもなく、表示した人にあります。
Claude と ChatGPT の共有リンクは、リンクを知っていれば誰でも見られます。設定画面から停止や削除ができますが、他人が取った写しは消せません。
関連：『現時点の仕様』の『公開と共有』
2026年10月時点では、顧客や従業員の個人データが漏れたとき、または漏れたおそれがあるときは、内容や件数によっては、個人情報保護委員会への報告と本人への通知が必要になります。該当するかどうかは、委員会の案内を確かめたうえで、弁護士などの専門家に相談してください。
関連：『法律とガイドライン』
AIエージェントの想定外の操作
AIエージェントが頼んでいない操作をしたら、動作を止めて接続を外し、何が実行されたかを実行記録で確かめてください。
在庫表の行をまとめて消した、問い合わせへの返信を確認前に送った、頼んでいないファイルを書き換えた、といった事故です。原因が判断の誤りかプロンプトインジェクションかは、最初の1時間では分からなくてかまいません。
請求が急に増えた場合は、漏れたAPIキーの悪用か、自動処理の繰り返しが主な原因です。利用量の画面で、どのAPIキーとどの作業で増えたかを確かめてから止めてください。
Claude Code のチェックポイントで戻るのは、Claude Code が自分の編集機能で変えたファイルだけです。コマンドの実行による変更や、送ったメール、公開したページ、外部サービスのデータは戻りません。ルーティンの実行中は承認の確認が出ず、操作は利用者本人の名前で記録されます。
関連：『現時点の仕様』の『Claude Code 全般』
再開する前に、送信、削除、支払いに人の承認をはさみ、権限を必要な分まで減らしてください。
実行記録の確認先
AIエージェントが何を実行したかは、次の場所で確かめられます。
- Claude Code のセッション記録
~/.claude/projects/<プロジェクト>/<セッションID>.jsonlに、やりとりと実行した操作が記録されます。Claude Code の/resume、/export、セッション一覧から開けます。- 各サービスの操作履歴
- メール、共有フォルダ、公開先のサービスなど、接続先の管理画面にある操作履歴です。AIエージェントの記録と時刻で照らし合わせます。
- Git の差分
- Git を使っている場合は、ファイルのどの行が変わったかを差分で確かめられます。
PCのセッション記録は既定で30日たつと自動で削除されるため、事故の調べに使う記録は、/export で書き出して残してください。
PCの Claude Code のセッション記録は暗号化されないファイルで保存され、削除までの日数は設定 cleanupPeriodDays で変えられます。
関連：『現時点の仕様』の『AIに渡る情報と、残る記録』
平時の備え
事故の種類ごとに平時に決めておくことを一覧にし、経営者と使う人の両方が見られる場所に置いてください。
| 事故の種類 | 平時に決めておくこと |
|---|---|
| 認証情報の漏えい | どのAPIキーをどこで発行したかの一覧。無効にする画面の場所 |
| 不正なログイン | 守るアカウントの一覧。それぞれのパスワードを再設定する画面の場所 |
| 間違った内容の公開 | 共有リンクと公開設定の一覧。公開や送信の前に内容を確かめる人 |
| AIエージェントの想定外の操作 | AIエージェントに渡している接続の一覧。接続を外す画面の場所。変更前の記録の取り方 |
| 請求の急増 | 月の上限額。通知の送り先。利用量を見る画面の場所 |
| 共通 | 止める判断をしてよい人。連絡する順番。相談先の専門家 |
止める判断をしてよい人、月の上限額、連絡する順番は経営者が決めます。一覧は3か月ごとに見直してください。
AIエージェントに変更を頼む前には、今の状態を記録してください。記録した時点にだけ戻れます。
Git を使わない場合
- 直させる前にファイルを複製し、「見積書ひな形_0401」のように名前に日付を付ける
- クラウド保管サービスの版の履歴を使う
- どちらも、前の版に実際に戻せるかを1回試す
Git を使う場合
送ったメール、公開したページ、会計や顧客名簿のような外部サービスのデータは、どの方法でも戻りません。AIエージェントを接続する前に、書き出し機能などで控えを取ってください。IPA（情報処理推進機構）の中小企業向けガイドラインも、バックアップを基本の対策に挙げています。
関連：『導入チェックリスト』
まとめ
- 事故が起きたら、止める、範囲を見積もる、差し替えと復旧、記録、関係者への連絡、の順に進めてください。
- 経営者は、止める判断をしてよい人を決め、「止めてから報告してよい」と伝えてください。
- AIエージェントが何をしたかは、Claude Code のセッション記録、各サービスの操作履歴、Git の差分で確かめます。
- AIエージェントに変更を頼む前に、日付つきの複製、版の履歴、commit のどれかで今の状態を記録してください。