AIに『このサイトを調べて』と頼んだら、偽サイトを信じることも？検索結果を狙う新しい攻撃に注意
AIがWeb検索を行うサービスを狙い、検索結果に表示されやすい偽サイトへAIを誘導する攻撃が報告されています。AIは便利な調査役ですが、重要な判断では公式サイトも確認しましょう。
- AIエージェントやAIブラウザーを利用している人
- 生成AIでWeb検索をする人
- インターネットで調べ物をする機会が多い人
確認レベル 3
公式サイト確認
危険度ではなく、必要な確認の程度を表しています。
AI検索は便利ですが、重要な情報は公式サイトで最終確認すると安心です。
Step 1
身近な事例を知る
AIに『公式サイトを探して』と頼んだ結果をそのまま信用した
生成AIに『○○サービスの公式サイトを探して概要を教えて』と依頼したところ、もっともらしい説明とリンクが返ってきました。しかし、そのサイトは検索結果を狙って作られた偽サイトで、AIがその内容を信じて要約してしまっていました。
Step 2
あなたならどうする？
まず一つ以上選んでから確認してみてください。
推奨される行動- 公式ドメインか確認する
選んだカードの表示を見ながら、今回はどの行動が安心につながるか確認できます。
AIは便利な検索補助ですが、紹介されたサイトが本当に公式かどうかは人が確認することが大切です。URLやドメイン名を一度確認するだけでも、多くの偽サイトを避けられます。
Step 3
確認ポイント
公式ドメインか確認する
企業名だけでなく、URLが公式のものか確認します。
AIの説明と公式サイトが一致しているか
重要な情報は公式ページでも確認します。
検索上位だから安心と思い込まない
検索順位が高くても偽サイトの場合があります。
AIが外部サイトを引用しているか確認する
引用元が分かる場合は、信頼できる情報源か確認します。
Step 4
現時点での見立て
確度は高めAIは案内役、公式サイトが最終確認
AIの検索結果を入口として活用し、契約・支払い・ダウンロードなど重要な操作は公式サイトから行いましょう。
Step 5
安全な対処方法
安心につながる行動
- 公式URLを確認する企業名が似ていても、ドメインが異なる場合があります。
- AIの引用元を開く元の記事や公式情報を確認できます。
- ソフトウェアは公式サイトから入手する偽サイト経由のマルウェア感染を防ぎやすくなります。
- AIブラウザーやAI検索を最新状態に保つ新しい攻撃への対策が継続的に追加されています。
避けたい行動
- AIが紹介したリンクだけを信じるAIも悪意あるサイトを参照してしまう可能性があります。
- 検索順位だけで公式だと判断するSEO対策や不正な手法で上位表示されることがあります。
- 重要な情報を一つの情報源だけで判断する複数の信頼できる情報源で確認すると安心です。
Step 6
AIの前向きな活用
AIは情報収集の時間を大幅に短縮できる
AI検索は概要把握や候補探しに非常に便利です。最後に公式サイトを確認する運用を組み合わせれば、効率と安全性を両立できます。
- 製品概要をAIで把握してから公式仕様を見る
- 旅行先をAIで比較して公式サイトで営業時間を確認する
- 制度の概要をAIで理解して官公庁サイトで詳細を確認する
今回、覚えておきたいこと
AIが探し、人が公式サイトで確認する。
情報源
- Indirect Prompt Injection in Web Content Targets AI Agents（外部リンク） Zscaler ThreatLabz セキュリティ機関
- Indirect Prompt Injection in Web Content Targets AI Agents（外部リンク） Infosecurity Magazine 報道機関
- AI threats in the wild: The current state of prompt injections on the web（外部リンク） Google Online Security Blog 公式発表
誠主任からひとこと