【AI詐欺】AI要約の不正操作や偽サイト誘導の手口と対策

【AI詐欺】AI要約の不正操作や偽サイト誘導の手口と対策

近年急速に普及しているAI（人工知能）サービスですが、その利便性を逆手に取った悪質な手口が確認されています。AI詐欺とは、生成AIや検索エンジンの自動要約機能などを悪用して、嘘の情報を真実であるかのように見せかけたり、利用者を巧妙に危険な偽サイトへ誘導したりするサイバー犯罪の総称です。警察やセキュリティ会社が強く注意喚起を行っているため、最新の手口を正しく理解して身を守る必要があります。

詐欺の概要と注意喚起

今回のニュースでは、犯罪組織が大手検索エンジンの「AI要約」機能を不正に操作し、投資詐欺の宣伝文句を肯定させる手口が明るみに出ました。さらに、チャットGPTやグーグルのジェミニといった対話型AIサービスを利用した際にも、利用者が知らず知らずのうちに偽のショッピングサイトやフィッシングサイトへ誘導される事例が多数発生しています。AIが生成した情報を無条件に信じ込むことは非常に危険であり、十分な警戒が求められます。

詐欺情報のポイント

情報源に応じた要点

警視庁やセキュリティ会社の調査によると、詐欺グループは国営公園や官公庁などのウェブサイトにある検索バーを利用してサイト内検索スパム（迷惑）と呼ばれる手法を行っています。これにより、架空の投資プランに関する肯定的な文章をネット上に拡散し、AIに誤った情報を学習させて検索結果のAI要約に反映させていました。また、人気商品のシールやブランド品、さらには金融機関を装った偽サイトへの誘導件数は数千件に及び、公式サービスを尋ねた場合でも同様の誘導が起きている点が大きな特徴です。

詐欺の手口と特徴

詐欺サイトの共通点 / 手口の特徴

この手口の最も恐ろしい点は、信頼性の高い官公庁のサイト構造などが悪用されるため、検索結果に出てくるAI要約が一見すると正しく信頼できる情報に見えてしまうことです。詐欺グループは中国語での宣伝や、秘匿性の高い通信アプリであるテレグラムなどを連絡先として作業を請負業者に発注していた実態も確認されています。また、AIチャットサービスが利用者の質問に対して巧妙に偽のショッピングサイトやフィッシングサイトを紹介し、あたかも公式であるかのように誤認させる点が大きな脅威となっています。

被害の流れと典型パターン

騙されるポイント

被害者が騙される典型的なパターンは、まずネット検索やAIチャットで気になる投資情報や商品の購入先を調べることから始まります。利用者は、検索結果に表示されたAI要約の肯定的な言葉を見て「公的な機関のサイトにも載っているなら安全だ」と誤認してしまいます。さらに、AIチャットで「公式サイトはどこか」と尋ねた際にも偽サイトのURLを案内されてしまい、そのままクレジットカード情報や個人情報を入力して金銭をだまし取られるという流れが多職種・多岐にわたる被害を生んでいます。

安全に対処する方法

絶対にやってはいけない行動

生成AIや検索結果の要約を鵜呑みにして、裏付けを取らずに投資を行ったり買い物をしたりすることは 絶対にやってはいけない行動 です。怪しい投資話や極端に安い通販サイトを見つけた場合は、必ず公式サイトのドメインを確認し、他の信頼できるニュースや公的機関の情報と照らし合わせる習慣を持ちましょう。もし偽サイトでカード情報を入力してしまった場合は、 直ちにクレジットカード会社に連絡して利用停止の手続きを行い、警察の相談窓口（#9110）や消費生活センターへ速やかに通報・相談してください。

まとめ

便利な生成AIや検索機能は私たちの生活を豊かにしてくれますが、それを悪用する犯罪組織の手口も年々巧妙化しています。「AIが言っているから大丈夫」「検索結果に出てきたから安全」という思い込みは非常に危険です。常に情報の裏付けを取り、怪しいと感じたら利用をストップする冷静な判断力を持つことが、現代のデジタル社会において自分自身の財産を守るための最大の詐欺対策となります。

※本記事は以下のサイトを参考に作成しています：https://news.yahoo.co.jp/articles/04dffbd40ac362001927432e511c875a27d743ac