2-3 検証できないときは使わない

確かめる手間と、間違えたときの影響を比べて決める

レッスン 7 / 19

場面

総務の高橋さんは、取引先に出す契約書の条項について、AIに「この表現で法的に問題ないか」と尋ねました。AIは「問題ありません」と答えました。締め切りは今日の夕方で、法務担当は出張中です。高橋さんは、AIの答えを信じて契約書を送ろうとしています。

すべてを同じように確かめる必要はない

AIの出力をどこまで確かめるかは、間違っていたときに何が起きるかで決めます。

間違えたときの影響 例 確かめ方
小さい・すぐ直せる 社内メモの言い回し、アイデア出し 読んで違和感がなければ使う
中くらい 社内向けの報告資料の数字 数字と固有名詞を元の資料で確かめる
大きい・取り消せない 社外に出す文書、契約、お金、法令、安全、健康 一次情報で確かめ、必要なら専門の担当に確認する

「確かめられない」ときの選択肢

確かめる方法がない、時間がない、自分にはその分野の知識がない。そういうときの選択肢は3つです。

  1. 使わない:その部分をAIの出力に頼らず、自分で書くか、載せない。
  2. 確かめられる人に頼む:法務、経理、情報システム、上長など。
  3. 確かめていないことを明示して渡す:「AIによる下書きで、数字は未確認です」と添える。受け取る人が判断できるようにする。

取ってはいけない選択は、確かめていないものを、確かめたかのように出すことです。

AIに「判断」を任せない

AIは、判断の材料を整理する手伝いはできます。しかし、次のような判断そのものを任せることはできません。

  • 法的に問題がないか
  • 契約を結んでよいか
  • 人の評価や採用の合否
  • 安全や健康に関わる可否

AIが「問題ありません」と答えても、その結果に責任を負うのはAIではなく、使った人と会社です。

「AIがそう言ったので」は理由にならない

間違いが見つかったとき、「AIがそう答えたから」という説明は通りません。出力を使うと決めたのは自分です。自分の名前で出すものは、自分で説明できる状態にしておきます。

急いでいるときほど、止まる

誤りがそのまま外に出るのは、多くの場合、急いでいるときです。締め切りが迫っていると、確かめる手順を飛ばしたくなります。そういうときこそ、間違えたときの影響の大きさを思い出します。締め切りを少し延ばしてもらう相談は、誤った契約書を取り消すよりずっと簡単です。

場面に戻ると

契約書は、社外に出す、取り消しにくい文書です。高橋さんは、AIの「問題ありません」を根拠にして送ってはいけません。出張中の法務担当にメッセージで確認を頼むか、取引先に事情を伝えて送付を翌日に延ばしてもらうのが適切です。

確認問題

AIが作った社外向け資料に、確かめる時間が取れなかった数字が1つ残っています。最も適切な対応はどれですか。

  1. AIが自信を持って示した数字なので、そのまま載せる
  2. その数字を資料から外すか、確かめられる人に確認を頼む
  3. 数字を少し丸めて、目立たないように載せる
  4. 間違っていたら後で訂正すればよいので、そのまま載せる

答え:B。 社外に出す資料の数字は、間違えたときの影響が大きい部類です。確かめられないなら、使わないか、確かめられる人に頼みます。丸めても、確かめていないことは変わりません。

AIセキュリティ実務 2026年版:業務で生成AIを安全に使う - クイズ

Q1. AIの出力をどこまで確かめるかは何で決まりますか?
  • AIの出力の長さ
  • 自分の知識の深さ
  • 間違っていたときの影響 ✓
  • 出力された情報の数
Q2. 確かめられない場合の選択肢として正しいものはどれですか?
  • 出力内容を信じて進める
  • AIの出力をそのまま使用する
  • 確認せずに公開する
  • 確かめられる人に頼む ✓
Q3. 急いでいるときに重要なのは何ですか?
  • AIが提供する情報を信じること
  • 間違えたときの影響を思い出すこと ✓
  • 締め切りを守ること
  • 確認手順を省略すること

このレッスンをシェアする

このコースを無料で受講

アカウント登録(無料)でこのコースの全レッスンに今すぐアクセスできます。

無料で登録する ログインして続ける

AIセキュリティ実務 2026年版:業務で生成AIを安全に使う

分野2 AIの出力を検証する


コース一覧に戻る