【AI詐欺】AI音声による詐欺電話、6人に1人が応じる可能性

【AI詐欺】AI音声による詐欺電話、6人に1人が応じる可能性

近年、急速に進化を遂げている生成AI技術が、悪意を持った人物によって犯罪に悪用されるケースが急増しています。今回のニュースでは、米ハーバード大学や米Metaなどに所属する研究チームが発表した論文「Evaluating AI Models’ Capability to Automate Voice Phishing Attacks」をもとに、AI音声による詐欺電話の危険性が明らかにされました。わずか数秒の音声から他人の声を複製するボイスクローン技術とLLM（大規模言語モデル）を組み合わせることで、誰もが巧妙な詐欺の標的になり得る時代が到来しています。

詐欺の概要と注意喚起

研究チームが米国の成人4100人を対象に行った検証では、6つのAI音声モデル（Llama Full-Duplex、OpenAI AVM、Gemini、Sesame、Play.AI、ElevenLabs）と本物の人間の声を比較し、5つの詐欺シナリオに対する反応が調査されました。その結果、AI詐欺電話の要求に応じるまたは「分からない」と回答した人の割合は、全シナリオ平均で16.5％に達することが分かりました。音声のリアルさ以上に、人間の心理を突くストーリーの説得力が被害を拡大させる大きな要因となっています。

今回の詐欺情報のポイント

情報源に応じた要点

調査されたシナリオには、カード会社やGmailのサポートを装う事務的な手口から、警察を名乗る保釈金詐欺、さらには面識のない人の声で「危機に陥った姉妹」を装い緊急の送金を求める手口まで含まれていました。特にElevenLabsのクローン音声を使った緊急性の高いシナリオでは、36.1％の人が要求に応じる可能性を示しました。また、犯行側のコスト試算では、人件費がかかる人間による電話とは異なり、AIを用いることで1時間あたり1〜3ドルの黒字になるという衝撃的なデータも示されています。

詐欺の手口と特徴

詐欺サイトの共通点 / 手口の特徴

今回の研究で浮き彫りになったAI詐欺の手口の最大の特徴は、声の機械的な不自然さよりも「緊急性をあおる」「同情を引く」といった心理的アプローチの巧みさです。事務的なサポート詐欺に比べて、個人の感情や人間関係に訴えかける手口は3倍から5倍以上もオッズが高いことが判明しました。さらに、参加者がAIの声を正しく見抜けた割合は約7割にとどまり、普段からChatGPTなどの生成AIを頻繁に使っている人と全く使わない人の間で、見抜く精度に差は見られなかったため、誰でも騙されるリスクを抱えていると言えます。

被害の流れと典型パターン

騙されるポイント

被害者が罠に落ちる典型的なパターンは、突然かかってきた電話やメッセージで「家族がトラブルに巻き込まれた」「アカウントが乗っ取り被害に遭った」といったパニックを引き起こす状況に直面することです。人間の脳は強いストレスや緊急事態に直面すると冷静な判断力を失うため、聞き覚えのある家族の声や大手企業のサポートセンターを名乗られると、相手がAIであることを見抜けず、焦って指示通りに行動してしまいます。これが、AI音声を用いたフィッシングや詐欺電話の最も危険な罠となっています。

安全に対処する方法

絶対にやってはいけない行動

このような巧妙な詐欺から身を守るためには、電話口でどれほど緊急性を訴えられても、その場で即座に送金や個人情報の伝達を行うことは絶対に避けるべきです。もし家族や親族を名乗る不審な電話があった場合は、一度電話を切り、事前に決めておいた別の連絡先や本人に直接連絡を取って事実確認を行ってください。また、少しでも怪しいと感じた場合は、一人で抱え込まずに警察相談専用電話（#9110）や消費生活センターへ速やかに相談することが重要です。被害に遭った可能性がある場合は、通話履歴やメッセージの画面など、証拠を必ず保存するようにしましょう。

まとめ

AI詐欺はもはやSF映画の中の出来事ではなく、誰の日常にも起こり得る身近な脅威となっています。生成AIやボイスクローン技術の進化スピードは凄まじく、今後はさらに人間の耳では区別がつかない精巧な手口が増加することが予想されます。「自分は絶対に騙されない」という過信を捨て、家族間で緊急時の連絡ルールを共有するなど、日頃からの備えと警戒心が何よりも大切な自衛手段となります。

※本記事は以下のサイトを参考に作成しています：https://news.yahoo.co.jp/articles/79fca39366e42a6e348ba8abfe90ebede13022fc