最新技術に騙されないために～生成AIを利用した詐欺事例から学ぶ対策方法～

AIを中心とする、近年の急速な技術進歩は目覚ましいものがあります。

これによって、誰でも簡単に、人間が作成したものと同じかそれ以上のクオリティのコンテンツを、人間の労力を伴わず自動で生成できるようになりました。

ただ、いいことばかりではなく、「AIを悪用した詐欺」の事件が増えています。

そこで今回は、どのように最新の技術から自身を守るのか？について、実際の生成AI詐欺の事例から解説したいと思います。

生成AI詐欺とは？

「AI」とは、人工知能のことで「Artificial Intelligence（アーティフィシャル インテリジェンス）」の略称です。

そして、生成AIとは、「ジェネレーティブAI(Generative AI)」とも呼ばれ、文章や画像・音声など新たなコンテンツを生成するAIのことをいいます。

生成AIは著作権をはじめとする様々な法的な問題を含んでいるため、関係各所で問題提起をされていますが、ここでは「生成AI詐欺」（AIを利用した詐欺）について取り上げたいと思います。

「生成AI詐欺」の例としては、

• 音声クローン詐欺
• ディープフェイク詐欺
• AIチャットボット詐欺
• 投資詐欺（AIを利用した投資アドバイス）
• 恋愛詐欺（ロマンス詐欺）

など、色々なものがあり、現在も増え続けています。

では、これらがどのようなものなのかを具体的に見ていきましょう。

生成AI詐欺のよくある手口と詐欺の流れ

AIによるチャットの自動返信

この詐欺の具体的な手法は以下のような場合が多いです。

• 「短期間で高い利回り」を約束する投資案件があると伝えてくる。
• 高度なAIアルゴリズムを用いて実在しない取引システムを提供し、「今後そこに投資すれば利益を生む！」と主張してくる。
• 新規投資家から資金を集め、「今投資すれば今後高額配当金として支払う」と約束してくる。
• 「あなたにだけにお知らせします」と、実在しない新たな企業（スタートアップ）を紹介し、青物買いを勧めてくる。

このように、嘘の情報をあたかも存在しているかのように扱うため、騙されていることに気づきにくいことが特徴です。

「恋は盲目」と言いますが、まさに盲目的に信用させてくる手口です。

騙されている本人はそのことに気が付きにくいうえに、周りに相談をすることも稀なので、騙されたと気がついても泣き寝入りすることが多いこともこの詐欺の特徴です。

合成音声や動画を利用

合成音声や動画を利用した詐欺は、技術の進化に伴いますます巧妙化しています。

それらを悪用した、近年多発している詐欺の一例をあげていますのでその手口を見ていきましょう。

オレオレ詐欺（特殊詐欺）

親や子ども、友人などに成りすますことができる、AI音声生成機能を使った詐欺です。

AI音声とは
人工知能とディープラーニング（大量のデータを自動的に解析・データの特徴を抽出する技術）を用いて人間の音声を模倣した合成音声のこと

近年、声だけのWEB会議など、音声データでのやり取りが盛んになってきていることも相まって、詐欺師にとっては容易に音声データを手に入れることができる時代になったのでないでしょうか？

2023年1月5日にMicrosoftが新しい音声合成AIモデル「VALL-E」を発表しました。

この音声AIは、たった3秒間の音声サンプルで忠実に人の声をシミュレートでき、一度学習したデータから、感情のトーンや録音環境も再現した合成音声を作成することが可能です。

手口としては、合成音声を使って、家族や友人などになりすまして、電話で交通事故や急病などの緊急事態だから急いでお金を送ってほしいと要求するものです。

キャンペーン応募詐欺

合成音声や動画を使って偽のキャンペーンを宣伝し、応募者から個人情報や金銭をだまし取る詐欺行為です。

よく耳にする、懸賞の当選通知が突然届くというパターンです。

「そんなのに騙される人はいないのでは？」と思われるかもしれませんが、普段から懸賞に応募している人だったら「当選した」と通知が来ると、つい油断してしまうこともあるかもしれません。

実際、応募した記憶がなくても、間違えて当選通知が来たと思い込み、出来心でそのまま受け取ろうとしてしまうというケースが多いようです。

このような詐欺の場合、「賞品を送るために必要」という理由で様々な個人情報を入力させていく、という手口になります。

また、当選通知に書かれているURLやQRコードへ誘導していくパターンもあります。

賞品を受け取る手続きのための指定サイトへアクセスするよう記載されており、そのリンク先からパソコンやスマートフォンのデータを抜き取ったり、不正なファイルをダウンロードさせたり、という手口もあります。

ビジネスメール詐欺

取引先や自社の経営者等になりすまして、偽の電子メールを送ってきて入金させる詐欺のことで、ＢＥＣ（Business Email Compromise)とも呼ばれています。

このビジネスメール詐欺は、世界中で大きな被害をもたらしており、警視庁の報告によると日本でも高額な被害が確認されています。

AIで生成された偽ニュースサイト

AIで生成された偽ニュースサイトは、その気になれば今や誰にでも簡単に作成できてしまいます。

悪意を持った第三者が国内外問わず外部委託をすれば、いとも簡単に本物と見紛うばかりの立派な偽ニュースサイトが完成してしまう時代になっています。

フィッシング詐欺

実際に本物のニュースサイトからAIが記事を学習して、自動でその日の最新ニュースを生成しています。

そのため、偽物だと気づかれずにユーザー登録をさせることが可能になり、怪しまれずに個人情報を抽出することができてしまいます。

例えば、ユーザーを偽のログインページに誘導し、クレジットカード情報やアカウント情報を入力させることが一般的な手口です。

ワンクリック詐欺

AIで生成された偽ニュースサイトの記事タイトルを1回クリックしてしまうだけで不当な料金を請求される、詐欺手口の一つです。

利用サービスの契約が成立していないにもかかわらず、勝手に契約成立と言われ、高額な料金を請求してきます。

ユーザーの興味をそそる内容の記事やタイトルを生成し、「無料」などの謳い文句を使用して、URLをクリックさせようと誘導してきます。

実際にアクセスをすると「登録が完了しました」というメッセージと、料金を請求する画面を表示させる、という手口が一般的です。

同じ画面上に、自身の端末情報やプロバイダなどの情報が表示されるため、恐怖を感じてしまい請求額を支払ってしまったという事例が数多くあるようです。

また、無料音楽サイトやアダルトサイトコンテンツをダウンロードする際に、「年齢確認」などのボタンをクリックすると、料金請求画面が表示されるというワンクリック詐欺も横行しています。

次いで、動画再生ボタンをクリックすると料金請求画面が表示されるというケースもあります。

偽の広告やアンケート

偽広告やアンケートを定期的にインターネット上に掲載しており、ユーザーに個人情報を入力させる手口です。

今話題になっている、有名人のなりすまし偽広告がインターネット上で急増しているのでご存じの方も多いのではないでしょうか？

著名人の写真を無断で利用し、「投資で儲ける方法を教えます」と謳っているフェイク広告などが、最も今ポピュラーな詐欺広告となっています。

実際に遭った生成AI詐欺事件

香港の多国籍企業ディープフェイクの同僚に騙され38億円送金

2024年2月、香港警察は、香港の多国籍企業の財務担当者が、AIで合成された同僚の姿を悪用したビデオ通話に騙され、約38億円を送金する事件が発生したと発表しました。

香港警察によると、担当者が参加したテレビ会議に出席した同僚の全員がAIを利用して合成・複製された偽物(ディープフェイク)だったとのことです。

この事件は、ディープフェイク技術を利用した初の大規模な詐欺として注目を集めました。

ディープフェイクで430万元（約8400万円）をだまし取られた

2023年4月、中国福建省でIT企業代表を務める男性に4月、通信アプリ微信（ウィーチャット）のビデオ通話で連絡がありました。

ビデオに映っていた相手の顔と声は友人そのもので「入札の保証金を貸してほしい」と依頼され、友人と信じ込んでいた男性は430万元（約8400万円）を振り込みました。

その後、確認のためその友人に「振り込んだ」と連絡をしたところ、友人から「？」と返ってきたため詐欺にあったと判明しました。

携帯電話のビデオ通話の場合、画面が小さいこともありAIで合成された顔だとは気づきにくいですし、声が似ていれば信じてしまう可能性は高いでしょう。

非常に巧妙な詐欺だと言えます。

偽テレビ会議詐欺で、2億香港ドル（約40億円）の被害 

2024年5月、英エンジニアリング大手のアラップは、詐欺グループが仕組んだ偽のテレビ会議にだまされ、2億香港ドル（約40億円）の詐欺被害に遭ったことを明らかにしました。

本物そっくりの社内会議が人工知能（AI）を使って設定され、参加した経理担当社員はAIの指示通り詐欺グループの管理口座に約40億円相当の大金を振り込んでしまいました。

生成AI詐欺に遭わないための対策と遭ってしまった時の対処方法

文章や画像などの違和感を見過ごさない

文章や画像の違和感に注目しましょう。

生成AIによって作成された文章や画像には、微妙な違和感が残ることがあります。

例えば、文章の文脈が不自然であったり、画像の細部に明らかにおかしな部分があったりします。

そうした自分で感じた違和感は、とても大切ですので見逃さないようにしましょう。

普段から家族や友人と連絡を取るようにする

詐欺師は被害者の家族や友人になりすますことがあります。

普段から定期的に連絡を取り合い、お互いの状況を把握しておくことで、突然のトラブルが起こったという連絡に対する焦りや不安を軽減することができます。

また大切なことは、急な連絡が来た場合でもまず直接本人に確認したり「合い言葉」を使うことが重要です。

些細な事ですが、これだけでも詐欺を防ぐことができます。

最新ニュースなどでAIについての知識を付けておく

AI技術は急速に進化しています。

今や顔写真が1枚あれば、しゃべっている様子も動画で作れてしまいます（実際は複数枚の写真を使って作るので、より精巧なものになるでしょう）。

最新の詐欺手口や技術に関するニュースにほんの少しでも関心を持ち、どのような形で生成AIが悪用される可能性があるのかをある程度理解しておきましょう。

そうすることで、最新の詐欺手口に対する警戒心を持つことができます。

専門家に相談する

投資の専門家や信頼できるアドバイザー、弁護士等に相談し、第三者の意見を聞くことで冷静な判断ができるようになるのではないでしょうか。

AI詐欺は巧妙な手口を使って騙してくるため、慎重な判断と情報収集が重要です。

まとめ

生成AI詐欺とは、本来人間にとってプラスに作用するものであったはずのものが、これを悪用して、詐欺行為を行う犯罪のことです。

生成AIは、テキスト、音声、画像、動画などを自然な形で生成することができる技術のため、この技術が進化するにつれて詐欺師たちは巧妙な詐欺の手法を編み出しています。

主な手口は、

• 音声詐欺・・・特定の人物の声を模倣
• テキスト詐欺（文章生成AI詐欺）・・・偽の請求書やフィッシングメール
• 画像・動画詐欺・・・ディープフェイク、偽造身分証明書、架空動画

などで、残念ながら詐欺であることを見破ることが日々難しくなっています。

防止策としては、自分が感じた違和感を信じて不自然だと思ったメールは開かない、URLはクリックしないことが大切です。

また、できることなら普段から家族や友人との連絡を密にし、突発的な緊急事態が発生した際には直接確認することで、詐欺を防ぐことができます。

そしてまず、本人が冷静になることが大事です。

「詐欺に遭った」と感じたら、焦らずに行動することが大切です。

警察や専門機関、弁護士などすぐ詐欺相談窓口に連絡して、専門家の助けを求めましょう。

また、金融機関に連絡して、被害の拡大を防ぐ措置をしてください。

生成AI詐欺は技術の進化とともに巧妙化しており、その手口は多様化しています。

個々人が警戒心を持ち、対策を講じることで、被害を未然に防ぐことが大切です。

この記事が、少しでもお役に立てれば幸いです。