分野4 AIを使った詐欺を見分ける
4-1 AIで作られたフィッシングの特徴
不自然な日本語という手がかりは、もう当てにできない
場面
経理の中村さんに、取引先の担当者の名前でメールが届きました。
「いつもお世話になっております。先日ご相談した請求書の件ですが、弊社の振込先口座が今月から変更となりました。お手数ですが、添付の新しい口座情報をご確認のうえ、今月分からこちらへお振込みをお願いいたします。」
文面は丁寧で、先週の打ち合わせの内容にも触れています。日本語におかしなところはありません。
これまでの見分け方が通用しなくなった
以前のフィッシングメールは、不自然な日本語、誤字、おかしな敬語で見分けられることがよくありました。生成AIによって、この手がかりは当てにできなくなっています。
AIを使うと、攻撃者は次のことが簡単にできます。
- 自然で丁寧な日本語の文面を、いくらでも作れる。
- 相手に合わせた内容にできる。公開されている会社情報、SNS、過去に漏れたメールなどをもとに、役職、取引先、進行中の案件に触れた文面を作る。
- 大量に、少しずつ違う文面を作れる。同じ文面の一斉送信ではないので、検知されにくい。
- やり取りを続けられる。返信に対して自然に応答し、時間をかけて信用させる。
「文章が自然だから本物だろう」という判断は、もうできません。
文面ではなく、「何を求めているか」を見る
見るべきなのは、文章の上手さではなく、そのメールが自分に何をさせようとしているかです。次のどれかを求めてきたら、立ち止まります。
- お金を動かす:振込、振込先の変更、ギフトカードの購入
- 認証情報を入力させる:ID、パスワード、認証コード
- ファイルを開かせる・ソフトを入れさせる
- 情報を送らせる:顧客名簿、社員の一覧、契約書
- いつもの手順を外させる:「今回だけ」「承認は後で」「このことは内密に」
あわせて見る点
- 急がせていないか:「本日中に」「至急」「対応しないと停止されます」
- 差出人のアドレス:表示されている名前ではなく、アドレスそのもの。1文字違いのドメインに注意します。
- リンクの行き先:開く前に、リンク先のアドレスを確かめます。
- いつもと違う点:連絡の経路、時間帯、依頼の内容。
ただし、これらに問題がなくても、本物とは限りません。本物のアカウントが乗っ取られて送られてくることもあります。
結局、確かめるしかない
文面で見分けられない以上、頼れるのは確認の手順です。お金・認証情報・機密情報に関わる依頼は、文面がどれほど自然でも、別の経路で確かめます。具体的な手順は4-3で学びます。
場面に戻ると
中村さんへのメールは、「振込先の変更」という、お金の流れを変える依頼です。文面が自然で、打ち合わせの内容に触れていても、それは本物の証拠になりません。メールに書かれた連絡先ではなく、以前から知っている電話番号で、取引先の担当者に直接確かめます。
確認問題
AIが悪用されるようになった現在、不審なメールを見分ける考え方として最も適切なものはどれですか。
- 日本語が自然で敬語が正しければ、本物と判断してよい
- 自分の名前や進行中の案件に触れていれば、本物と判断してよい
- 文面の自然さでは判断せず、お金・認証情報・機密情報を求める依頼は別の経路で確かめる
- 差出人の表示名が知っている人であれば、本物と判断してよい
答え:C。 自然な文面も、相手に合わせた内容も、AIで簡単に作れます。表示名は自由に設定できます。見るべきは、そのメールが何をさせようとしているかです。
AIセキュリティ実務クイズ
Q1. フィッシングメールを見分ける際に重要なことは何ですか?
- 差出人の名前が知っている人であること
- メールの内容が丁寧であること
- そのメールが何を求めているかを確認すること ✓
- 日本語が自然であること
Q2. フィッシングメールの見分け方として正しいのはどれですか?
- いつもと違う点を確認する
- お金や認証情報に関わる依頼は別の経路で確かめる ✓
- 急がせているかを確認する
- 文面の自然さを重視する
Q3. 生成AIによってフィッシングメールの見分け方が変わった理由は何ですか?
- 送信者のアドレスが常に正しいから
- 相手に合わせた内容が作れないから
- 文面が自然で丁寧に作れるから ✓
- フィッシングメールが常に急がせてくるから