一覧 / AIセキュリティ実務 2026年版:業務で生成AIを安全に使う / 6-3 誤って入力したときの初動と報告

6-3 誤って入力したときの初動と報告

隠さず、早く、事実を伝える。報告に含める内容

レッスン 19 / 19

場面

カスタマーサポートの林さんは、問い合わせへの返信文をAIに作らせていました。急いでいたため、伏せるのを忘れ、顧客の氏名、住所、電話番号、注文内容が入った問い合わせ文をそのまま貼り付けて送信してしまいました。送信した直後に気づきました。

画面の会話を削除すれば、なかったことにできるでしょうか。誰にも言わなければ、分からないのではないでしょうか。

誰でも間違える

どれだけ気をつけていても、間違いは起こります。急いでいるとき、疲れているとき、慣れてきたときに起こります。大切なのは、間違えた後にどう動くかです。

間違いそのものより、隠したこと、報告が遅れたことの方が、はるかに大きな問題になります。

なぜ、すぐに報告するのか

  • 対処できる時間が限られている:サービスの提供者に削除を求める、設定を確かめる、関係者に知らせるなどの対応は、早いほど効果があります。
  • 会社に義務が生じることがある:個人情報の漏えいなどが起きた場合、会社には、個人情報保護委員会への報告や本人への通知が法律で求められることがあります。期限があるため、現場からの報告が遅れると、会社が義務を果たせなくなります。
  • 被害の広がりを止められる:同じ間違いがほかでも起きていないかを確かめられます。
  • 後から分かると、信頼を失う:記録や調査によって、後から明らかになることは少なくありません。

「大したことではないかもしれない」と思っても、報告します。重大かどうかを判断するのは、報告を受けた担当の役割です。

初動:気づいたらすること

  1. 止める それ以上の入力をやめます。AIが動作中なら止めます。

  2. 残す 何を入力したかが分かる状態を保ちます。あわてて会話や履歴を消さないでください。消してしまうと、何が送られたかを確かめられなくなります。削除が必要かどうかは、担当の指示に従います。

  3. 報告する 決められた報告先(上長、情報システム部門、情報セキュリティの窓口など)に、すぐに連絡します。

  4. 指示に従う 自分の判断で、顧客や取引先に連絡したり、サービスの提供者に問い合わせたりしません。対応は会社として行います。

報告に含めること

分かっている範囲で、事実を伝えます。分からないことは「分からない」と伝えます。

  • いつ:日時
  • どのツールに:サービスの名前、会社のアカウントか個人のアカウントか
  • 何を:入力した情報の種類と量(誰の、どんな情報が、何件)
  • どのように:文章の貼り付け、ファイルのアップロードなど
  • その後どうしたか:気づいてから行ったこと
  • 現在の状態:履歴が残っているか、共有されていないか

すべてがそろうまで待つ必要はありません。まず第一報を入れ、分かったことを追って伝えます。

してはいけないこと

  • 黙っている、様子を見る
  • 履歴を消して、なかったことにする
  • 自分だけで解決しようとする
  • 事実を小さく伝える、都合の悪い部分を省く
  • 同僚にだけ話して、正式な報告をしない

報告する対象は、自分の間違いだけではない

次のようなことに気づいたときも、報告します。

  • AIの出力に、頼んでいない案内や不審なリンクが含まれていた(分野3)
  • なりすましが疑われる連絡を受けた(分野4)
  • 不審なアプリや拡張機能を入れてしまった(分野4)
  • AIエージェントが、頼んでいない操作をした(分野3)
  • ほかの人が、認められていない使い方をしているのに気づいた

自分が被害にあっていなくても、報告は、ほかの人が同じ手口にかかるのを防ぎます。

報告しやすい職場をつくる

報告した人が責められる職場では、人は報告しなくなり、問題は隠れたまま大きくなります。同僚が間違いを報告したときには、責めるのではなく、早く知らせてくれたことを受け止めます。チームを率いる立場の人は、特にこの点が大切です。

場面に戻ると

林さんは、会話を削除してはいけません。そのままの状態で、すぐに上長と情報セキュリティの窓口に報告します。伝えるのは、いつ、どのツールに、どの顧客の、どんな情報を入力したか、です。顧客への連絡やサービス提供者への問い合わせは、会社の指示に従って行います。

コースのまとめ

6つの分野で学んだことを、最後にもう一度並べます。

  1. 入力する前に、渡してよい情報かを判断する。
  2. 使う前に、出力が正しいかを確かめる。
  3. 外から来たものを読ませたら、出力がおかしくないかを疑う。
  4. 依頼を受けたら、別の経路で本物かを確かめる。
  5. 社外に出す前に、権利と契約を確かめる。
  6. ルールに沿って使い、問題が起きたら、隠さずすぐに報告する。

どの場面でも共通しているのは、迷ったら、止まって、確かめることです。

確認問題

顧客の個人情報を、誤ってAIに入力してしまったことに気づきました。最も適切な対応はどれですか。

  1. 会話の履歴をすぐに削除し、誰にも言わない
  2. 入力をやめ、履歴は消さずに、決められた報告先にすぐ報告する
  3. 被害が出たことが確認できるまで、様子を見る
  4. 自分で顧客に連絡して謝罪し、会社には伝えない

答え:B。 履歴を消すと、何が送られたかを確かめられなくなります。様子を見ている間に、対処できる時間が失われます。顧客への連絡は、会社として行います。

AIセキュリティ実務 2026年版 確認問題

Q1. 誤って顧客の個人情報をAIに入力した際、最初に行うべきことは何ですか?
  • 問題が解決するまで様子を見る
  • 入力をやめる ✓
  • 自分で顧客に連絡する
  • 履歴をすぐに消去する
Q2. 個人情報の漏えいに気づいた場合、報告に含めるべきでない情報はどれですか?
  • どのツールに入力したか
  • 気づいてから行ったこと
  • 顧客の誕生日 ✓
  • 入力した情報の種類
Q3. 報告する際の重要なポイントは何ですか?
  • 早く報告すること ✓
  • 他の人にだけ知らせること
  • 履歴を消すこと
  • 自分で解決すること

このレッスンをシェアする

このコースを無料で受講

アカウント登録(無料)でこのコースの全レッスンに今すぐアクセスできます。

無料で登録する ログインして続ける

AIセキュリティ実務 2026年版:業務で生成AIを安全に使う

分野6 ルールに沿って使い、問題を報告する


コース一覧に戻る