分野2 AIの出力を検証する
2-3 検証できないときは使わない
確かめる手間と、間違えたときの影響を比べて決める
場面
総務の高橋さんは、取引先に出す契約書の条項について、AIに「この表現で法的に問題ないか」と尋ねました。AIは「問題ありません」と答えました。締め切りは今日の夕方で、法務担当は出張中です。高橋さんは、AIの答えを信じて契約書を送ろうとしています。
すべてを同じように確かめる必要はない
AIの出力をどこまで確かめるかは、間違っていたときに何が起きるかで決めます。
| 間違えたときの影響 | 例 | 確かめ方 |
|---|---|---|
| 小さい・すぐ直せる | 社内メモの言い回し、アイデア出し | 読んで違和感がなければ使う |
| 中くらい | 社内向けの報告資料の数字 | 数字と固有名詞を元の資料で確かめる |
| 大きい・取り消せない | 社外に出す文書、契約、お金、法令、安全、健康 | 一次情報で確かめ、必要なら専門の担当に確認する |
「確かめられない」ときの選択肢
確かめる方法がない、時間がない、自分にはその分野の知識がない。そういうときの選択肢は3つです。
- 使わない:その部分をAIの出力に頼らず、自分で書くか、載せない。
- 確かめられる人に頼む:法務、経理、情報システム、上長など。
- 確かめていないことを明示して渡す:「AIによる下書きで、数字は未確認です」と添える。受け取る人が判断できるようにする。
取ってはいけない選択は、確かめていないものを、確かめたかのように出すことです。
AIに「判断」を任せない
AIは、判断の材料を整理する手伝いはできます。しかし、次のような判断そのものを任せることはできません。
- 法的に問題がないか
- 契約を結んでよいか
- 人の評価や採用の合否
- 安全や健康に関わる可否
AIが「問題ありません」と答えても、その結果に責任を負うのはAIではなく、使った人と会社です。
「AIがそう言ったので」は理由にならない
間違いが見つかったとき、「AIがそう答えたから」という説明は通りません。出力を使うと決めたのは自分です。自分の名前で出すものは、自分で説明できる状態にしておきます。
急いでいるときほど、止まる
誤りがそのまま外に出るのは、多くの場合、急いでいるときです。締め切りが迫っていると、確かめる手順を飛ばしたくなります。そういうときこそ、間違えたときの影響の大きさを思い出します。締め切りを少し延ばしてもらう相談は、誤った契約書を取り消すよりずっと簡単です。
場面に戻ると
契約書は、社外に出す、取り消しにくい文書です。高橋さんは、AIの「問題ありません」を根拠にして送ってはいけません。出張中の法務担当にメッセージで確認を頼むか、取引先に事情を伝えて送付を翌日に延ばしてもらうのが適切です。
確認問題
AIが作った社外向け資料に、確かめる時間が取れなかった数字が1つ残っています。最も適切な対応はどれですか。
- AIが自信を持って示した数字なので、そのまま載せる
- その数字を資料から外すか、確かめられる人に確認を頼む
- 数字を少し丸めて、目立たないように載せる
- 間違っていたら後で訂正すればよいので、そのまま載せる
答え:B。 社外に出す資料の数字は、間違えたときの影響が大きい部類です。確かめられないなら、使わないか、確かめられる人に頼みます。丸めても、確かめていないことは変わりません。
AIセキュリティ実務 2026年版:業務で生成AIを安全に使う - クイズ
Q1. AIの出力をどこまで確かめるかは何で決まりますか?
- AIの出力の長さ
- 自分の知識の深さ
- 間違っていたときの影響 ✓
- 出力された情報の数
Q2. 確かめられない場合の選択肢として正しいものはどれですか?
- 出力内容を信じて進める
- AIの出力をそのまま使用する
- 確認せずに公開する
- 確かめられる人に頼む ✓
Q3. 急いでいるときに重要なのは何ですか?
- AIが提供する情報を信じること
- 間違えたときの影響を思い出すこと ✓
- 締め切りを守ること
- 確認手順を省略すること