「有料の契約プランにしたし、非公開にもしてあるから、もう大丈夫だと思っていた」
このページでは、AIを業務に取り入れるときによくある15の誤解を表で示し、それぞれに最初の一歩を添えます。
結論
このページで出てくる言葉の意味は用語一覧で確認できます。
業務でどう使うか
使いどころ
- 導入を決める前に、経営者と使う人で表を読み合わせる
- 新しいAIのサービスを契約する前に、お金とデータの行を確かめる
- 社内のAI利用ルールを書くとき、「最初の一歩」の列を下書きに使う
避けたい使い方
- 表の1行だけを読んで、個別の法的な判断を済ませる
- 「実際」の列を、特定のサービスの仕様の保証として扱う
- 誤解があることを理由に、AIの利用そのものをやめる
AIの性能と権限の誤解
プロンプトで頼んだことと、設定で禁止したことは、別のものです。
| 誤解 | 実際 | 最初の一歩 |
|---|---|---|
| AIの答えは正しい | AIは、事実と違う内容をもっともらしく出力することがあります。渡された情報の範囲でしか判断できません。 | 金額、日付、固有名詞を、元の資料と照らし合わせる |
| 最新のAIなら、悪意のある指示にだまされない | AIが読む文書に指示を紛れ込ませるプロンプトインジェクションは、AIを提供する会社も解決済みとしていません。 | だまされても被害が小さく済むよう、AIエージェントができる操作を先に減らす |
| プロンプトに「削除禁止」と書けば、削除は起きない | プロンプトはAIの判断に影響するだけです。実際にできる操作は、権限の設定で決まります。 | 止めたい操作は、設定で禁止する |
| 巻き戻し機能があるから、何をしても戻せる | 戻るのは主に編集したファイルです。送信したメールや公開したページは戻りません。 | 作業の前に、元のファイルの控えを取る |
| 自動で動かしていても、危ない操作の前には確認が出る | 決めた時刻に動く自動実行には、途中で人に確認を求めないものがあります。 | 自動実行に接続する外部サービスを、必要な分だけにする |
関連：『生成物の検証』、『AIに与える権限』、『定期実行と監視』
関連：『現時点の仕様』の『許可と安全の仕組み』
取り消せば戻るという誤解
一度渡した情報は、渡した側の操作では消せないため、共有、公開、連携、支払い、AIへの入力の直前に人が確かめます。
| 誤解 | 実際 | 最初の一歩 |
|---|---|---|
| 非公開の保管場所なら、認証情報を置いてよい | 共同作業者を足す、公開に切り替える、といった変更で、過去に書いた内容まで見られます。 | パスワードやAPIキーは、保管場所にもAIとのチャットにも書かない |
| 漏れたAPIキーは、履歴から消せば大丈夫 | 気づくまでの間に他人が取った写しは残ります。 | 先にそのキーを使えなくし、新しいキーを作り直す |
| 共有リンクは検索に出ないから、非公開と同じ | リンクを知っている人なら誰でも見られ、転送も止められません。 | 顧客名や金額の入ったチャットは、共有リンクにしない |
| 支出の通知を設定したから、使いすぎは止まる | 通知は知らせるだけで、利用は続きます。 | 到達したら利用が止まる上限を、通知とは別に設定する |
| 有料の契約プランなら、入力した内容は学習に使われない | 学習に使われるかは、個人向けか法人向けかの契約プランと、利用者の設定で決まります。 | 個人向けの契約プランなら、学習への利用の設定がオンかオフかを確かめる |
| 連携を解除すれば、相手に渡したデータも消える | 止まるのは、これから先の受け渡しです。相手に保存されたデータは残ります。 | 利用をやめるときは、相手のサービスにデータの削除を別に依頼する |
関連：『現時点の仕様』の『公開と共有』
法律と責任の誤解
AIを使っても、法律の基準はAIを使わない場合と同じです。
| 誤解 | 実際 | 最初の一歩 |
|---|---|---|
| 顧客が数十件の小規模事業者には、個人情報保護法は関係ない | 件数が少なくても、個人事業主でも、顧客名簿を事業に使えば個人情報取扱事業者に当たります。 | 顧客の名前が要る書類は、ひな形と差し込みに分け、実際の名前はAIに入れない |
| 取引先から預かった資料も、AIに入力してよい | 取引先との秘密保持契約で、第三者への開示が禁じられていることがあります。 | 入力する前に、契約書の開示の条文を読む |
| AIが作ったものだから、著作権の侵害にはならない | 既存の作品との類似性と依拠性で、AIを使わない場合と同じように判断されます。 | 公開や販売の前に、似たものがないかを確かめる |
| AIが書いた広告文の責任は、AIを提供する会社にある | 広告の内容の責任は、広告を出した自社にあります。 | 効果や実績の数字を載せる前に、根拠の資料をそろえる |
規約に「出力は利用者のもの」と書かれていても、他人の権利を侵害していないことの保証ではありません。AIが作ったSNS投稿や求人票は、公開する前に人が読んで確かめてください。
個人情報を入れるかどうかは、AIを提供する会社の法人向けの契約プランの内容を確認したうえで、経営者が決めます。個別の法的な判断は、弁護士などの専門家や所管官庁の窓口に確かめてください。
関連：『法律とガイドライン』
対策を重ねる考え方
プロンプトに書く、非公開にする、通知を設定する、のどれも意味のある対策ですが、1つで足りると考えたところから事故が始まります。
- AIエージェントには、作業に必要な操作だけを許可する
- 送信、公開、支払いの直前に、人が内容を確かめる
- 失敗しても戻せるように、作業の前に控えを取る
- 支出には、到達したら利用が止まる上限を置く
原則
AIが間違えないことを前提にしません。AIエージェントがだまされても、操作を誤っても、被害が小さく済み、人が気づけて、戻せるように、先に仕組みを置きます。
関連：『安全の原則』
まとめ
- 自社に当てはまる誤解の行を見つけ、「最初の一歩」から始めてください。
- 止めたい操作はプロンプトで頼むだけでなく、権限の設定で禁止してください。
- 一度渡した情報は消せないため、共有、公開、入力の直前に人が確かめてください。
- 禁止する操作と支出の上限額は経営者が決め、設定作業は詳しい人に頼んでかまいません。