最新技術に騙されないために~生成AIを利用した詐欺事例から学ぶ対策方法~

AIを中心とする、近年の急速な技術進歩は目覚ましいものがあります。

これによって、誰でも簡単に、人間が作成したものと同じかそれ以上のクオリティのコンテンツを、人間の労力を伴わず自動で生成できるようになりました。

ただ、いいことばかりではなく、「AIを悪用した詐欺」の事件が増えています。

そこで今回は、どのように最新の技術から自身を守るのか?について、実際の生成AI詐欺の事例から解説したいと思います。

記事に入る前に・・・

絶対に許せない。弁護士を立てて訴えてやりたい!
だけど費用的に無理・・・という時代は終わりました。
加入者数27,000件突破!弁護士費用お支払い件数15,000件突破! *1
11年連続No.1「弁護士保険ミカタ」*2
  • 離婚・男女トラブル
  • 労働トラブル
  • 近隣トラブル
  • 誹謗中傷トラブル
  • 相続トラブル

私たちの身の回りに潜む身近なこれらのトラブル(一般事件)に遭遇したときの弁護士費用を最大90%補償

トラブルの初期段階で弁護士に電話で、相談料無料で初期相談ができる「弁護士直通ダイヤル」トラブルを未然に防ぐアイテム「弁護士保険証」も大変好評です! *4

気になる方はまずは資料請求から!(ご自宅への送付、メールへの送付が選べます)

\ 累計資料請求100,000件突破 /

丸山弁護士

「私、弁護士保険に入ってるんですよ」このひと言は非常に強烈なんです。

目次

生成AI詐欺とは?

「AI」とは、人工知能のことで「Artificial Intelligence(アーティフィシャル インテリジェンス)」の略称です。

そして、生成AIとは、「ジェネレーティブAI(Generative AI)」とも呼ばれ、文章や画像・音声など新たなコンテンツを生成するAIのことをいいます。

生成AIは著作権をはじめとする様々な法的な問題を含んでいるため、関係各所で問題提起をされていますが、ここでは「生成AI詐欺」(AIを利用した詐欺)について取り上げたいと思います。

「生成AI詐欺」の例としては、

  • 音声クローン詐欺
  • ディープフェイク詐欺
  • AIチャットボット詐欺
  • 投資詐欺(AIを利用した投資アドバイス)
  • 恋愛詐欺(ロマンス詐欺)

など、色々なものがあり、現在も増え続けています。

では、これらがどのようなものなのかを具体的に見ていきましょう。

生成AI詐欺のよくある手口と詐欺の流れ

「生成AI」という言葉自体はよく聞きますが、どのような形で詐欺に使われるのでしょうか。

弁護士

生成AI詐欺の手口と流れを代表的な詐欺から見ていきましょう。

AIによるチャットの自動返信

AIチャットボットを利用

本物と見分けがつきにくい偽物の企業のホームページやカスタマーサポートセンターでサービスを提供し、個人情報やクレジットカード情報を盗む詐欺のことです。

ユーザーは本物のサイトだと思ってしまうため、チャットで質疑応答をしていくうちに、言われるがままに個人情報を入力したり、実在しない商品を購入させられたりしてしまいます。

投資詐欺

生成AIを利用して偽の投資アドバイスを提供し、投資家を欺いて金銭を詐取する詐欺のことです。

最近、「有名人が広告塔になっているので信用して資金を投資したところ、実は偽物(生成AI)であった」といった投資詐欺が話題になったので記憶に新しいのではないでしょうか。

この詐欺の具体的な手法は以下のような場合が多いです。

  • 「短期間で高い利回り」を約束する投資案件があると伝えてくる。
  • 高度なAIアルゴリズムを用いて実在しない取引システムを提供し、「今後そこに投資すれば利益を生む!」と主張してくる。
  • 新規投資家から資金を集め、「今投資すれば今後高額配当金として支払う」と約束してくる。
  • 「あなたにだけにお知らせします」と、実在しない新たな企業(スタートアップ)を紹介し、青物買いを勧めてくる。

このように、嘘の情報をあたかも存在しているかのように扱うため、騙されていることに気づきにくいことが特徴です。

恋愛詐欺(AIロマンス詐欺)

オンラインデートサイト上で、生成AIが作ったリアルで魅力的な偽のプロフィールやメッセージを使って、ターゲットを騙し金銭を要求するロマンス詐欺です。

AIロマンス詐欺は、対象となる人間の感情に訴えかけてきます。

「恋は盲目」と言いますが、まさに盲目的に信用させてくる手口です。

騙されている本人はそのことに気が付きにくいうえに、周りに相談をすることも稀なので、騙されたと気がついても泣き寝入りすることが多いこともこの詐欺の特徴です。

弁護士

騙されていることを認めたくなくて信じ続ける人もいます。

合成音声や動画を利用

合成音声や動画を利用した詐欺は、技術の進化に伴いますます巧妙化しています。

それらを悪用した、近年多発している詐欺の一例をあげていますのでその手口を見ていきましょう。

オレオレ詐欺(特殊詐欺)

親や子ども、友人などに成りすますことができる、AI音声生成機能を使った詐欺です。

AI音声とは
人工知能とディープラーニング(大量のデータを自動的に解析・データの特徴を抽出する技術)を用いて人間の音声を模倣した合成音声のこと

近年、声だけのWEB会議など、音声データでのやり取りが盛んになってきていることも相まって、詐欺師にとっては容易に音声データを手に入れることができる時代になったのでないでしょうか?

2023年1月5日にMicrosoftが新しい音声合成AIモデル「VALL-E」を発表しました。

この音声AIは、たった3秒間の音声サンプルで忠実に人の声をシミュレートでき、一度学習したデータから、感情のトーンや録音環境も再現した合成音声を作成することが可能です。

手口としては、合成音声を使って、家族や友人などになりすまして、電話で交通事故や急病などの緊急事態だから急いでお金を送ってほしいと要求するものです。

弁護士

自分の家族や友人の声だけでも信じてしまう確率が高いのですが、これに加えて「自分のあだ名で呼んでくるから、さすがに詐欺だとは思えず信じてしまった」という事例もあります。

キャンペーン応募詐欺

合成音声や動画を使って偽のキャンペーンを宣伝し、応募者から個人情報や金銭をだまし取る詐欺行為です。

よく耳にする、懸賞の当選通知が突然届くというパターンです。

「そんなのに騙される人はいないのでは?」と思われるかもしれませんが、普段から懸賞に応募している人だったら「当選した」と通知が来ると、つい油断してしまうこともあるかもしれません。

実際、応募した記憶がなくても、間違えて当選通知が来たと思い込み、出来心でそのまま受け取ろうとしてしまうというケースが多いようです。

このような詐欺の場合、「賞品を送るために必要」という理由で様々な個人情報を入力させていく、という手口になります。

また、当選通知に書かれているURLやQRコードへ誘導していくパターンもあります。

賞品を受け取る手続きのための指定サイトへアクセスするよう記載されており、そのリンク先からパソコンやスマートフォンのデータを抜き取ったり、不正なファイルをダウンロードさせたり、という手口もあります。

ビジネスメール詐欺

取引先や自社の経営者等になりすまして、偽の電子メールを送ってきて入金させる詐欺のことで、BEC(Business Email Compromise)とも呼ばれています。

このビジネスメール詐欺は、世界中で大きな被害をもたらしており、警視庁の報告によると日本でも高額な被害が確認されています。

弁護士

例えば、弁護士と名乗る詐欺師が社長の代理人をしていると装って会社の会計担当者にお金を要求するケースもあるようです。
弁護士からのメールも気をつけなければいけませんね。

AIで生成された偽ニュースサイト

AIで生成された偽ニュースサイトは、その気になれば今や誰にでも簡単に作成できてしまいます。

悪意を持った第三者が国内外問わず外部委託をすれば、いとも簡単に本物と見紛うばかりの立派な偽ニュースサイトが完成してしまう時代になっています。

フィッシング詐欺

実際に本物のニュースサイトからAIが記事を学習して、自動でその日の最新ニュースを生成しています。

そのため、偽物だと気づかれずにユーザー登録をさせることが可能になり、怪しまれずに個人情報を抽出することができてしまいます。

例えば、ユーザーを偽のログインページに誘導し、クレジットカード情報やアカウント情報を入力させることが一般的な手口です。

ワンクリック詐欺

AIで生成された偽ニュースサイトの記事タイトルを1回クリックしてしまうだけで不当な料金を請求される、詐欺手口の一つです。

利用サービスの契約が成立していないにもかかわらず、勝手に契約成立と言われ、高額な料金を請求してきます。

ユーザーの興味をそそる内容の記事やタイトルを生成し、「無料」などの謳い文句を使用して、URLをクリックさせようと誘導してきます。

実際にアクセスをすると「登録が完了しました」というメッセージと、料金を請求する画面を表示させる、という手口が一般的です。

同じ画面上に、自身の端末情報やプロバイダなどの情報が表示されるため、恐怖を感じてしまい請求額を支払ってしまったという事例が数多くあるようです。

また、無料音楽サイトやアダルトサイトコンテンツをダウンロードする際に、「年齢確認」などのボタンをクリックすると、料金請求画面が表示されるというワンクリック詐欺も横行しています。

次いで、動画再生ボタンをクリックすると料金請求画面が表示されるというケースもあります。

偽の広告やアンケート

偽広告やアンケートを定期的にインターネット上に掲載しており、ユーザーに個人情報を入力させる手口です。

今話題になっている、有名人のなりすまし偽広告がインターネット上で急増しているのでご存じの方も多いのではないでしょうか?

著名人の写真を無断で利用し、「投資で儲ける方法を教えます」と謳っているフェイク広告などが、最も今ポピュラーな詐欺広告となっています。

実際に遭った生成AI詐欺事件

生成AI技術の進化に伴い詐欺事件のリスクが増加していくことは、避けられないのでしょうか。

弁護士

技術が進歩して利便性を享受する一方で、そのリスクに対しても備えることが求められます。

香港の多国籍企業ディープフェイクの同僚に騙され38億円送金

2024年2月、香港警察は、香港の多国籍企業の財務担当者が、AIで合成された同僚の姿を悪用したビデオ通話に騙され、約38億円を送金する事件が発生したと発表しました。

香港警察によると、担当者が参加したテレビ会議に出席した同僚の全員がAIを利用して合成・複製された偽物(ディープフェイク)だったとのことです。

この事件は、ディープフェイク技術を利用した初の大規模な詐欺として注目を集めました。

コロナを機にzoom等を利用したビデオ会議は格段に増えましたが、まさか同僚が偽物だなんて思いもしませんね。

ディープフェイクで430万元(約8400万円)をだまし取られた

2023年4月、中国福建省でIT企業代表を務める男性に4月、通信アプリ微信(ウィーチャット)のビデオ通話で連絡がありました。

ビデオに映っていた相手の顔と声は友人そのもので「入札の保証金を貸してほしい」と依頼され、友人と信じ込んでいた男性は430万元(約8400万円)を振り込みました。

その後、確認のためその友人に「振り込んだ」と連絡をしたところ、友人から「?」と返ってきたため詐欺にあったと判明しました。

携帯電話のビデオ通話の場合、画面が小さいこともありAIで合成された顔だとは気づきにくいですし、声が似ていれば信じてしまう可能性は高いでしょう。

非常に巧妙な詐欺だと言えます。

偽テレビ会議詐欺で、2億香港ドル(約40億円)の被害 

2024年5月、英エンジニアリング大手のアラップは、詐欺グループが仕組んだ偽のテレビ会議にだまされ、2億香港ドル(約40億円)の詐欺被害に遭ったことを明らかにしました。

本物そっくりの社内会議が人工知能(AI)を使って設定され、参加した経理担当社員はAIの指示通り詐欺グループの管理口座に約40億円相当の大金を振り込んでしまいました。

弁護士

テレビ会議のときには「合い言葉」を決めておいてもいいかもしれませんね。

生成AI詐欺に遭わないための対策と遭ってしまった時の対処方法

いくら注意をしていても、騙されてしまうことは誰にでも起こり得る可能性がありますよね。

弁護士

騙されてしまった時にどのように対処していけばいいのか?
また、騙される可能性を少しでも低くするにはどうすればいいのか?
ポイントをいくつかご紹介します。

文章や画像などの違和感を見過ごさない

文章や画像の違和感に注目しましょう。

生成AIによって作成された文章や画像には、微妙な違和感が残ることがあります。

例えば、文章の文脈が不自然であったり、画像の細部に明らかにおかしな部分があったりします。

そうした自分で感じた違和感は、とても大切ですので見逃さないようにしましょう。

弁護士

日本語の言い回しは独特なので、海外の人間がチェックをする場合、「こなれていない表現」が残っている可能性があります。

普段から家族や友人と連絡を取るようにする

詐欺師は被害者の家族や友人になりすますことがあります。

普段から定期的に連絡を取り合い、お互いの状況を把握しておくことで、突然のトラブルが起こったという連絡に対する焦りや不安を軽減することができます。

また大切なことは、急な連絡が来た場合でもまず直接本人に確認したり「合い言葉」を使うことが重要です。

些細な事ですが、これだけでも詐欺を防ぐことができます。

最新ニュースなどでAIについての知識を付けておく

AI技術は急速に進化しています。

今や顔写真が1枚あれば、しゃべっている様子も動画で作れてしまいます(実際は複数枚の写真を使って作るので、より精巧なものになるでしょう)。

最新の詐欺手口や技術に関するニュースにほんの少しでも関心を持ち、どのような形で生成AIが悪用される可能性があるのかをある程度理解しておきましょう。

そうすることで、最新の詐欺手口に対する警戒心を持つことができます。

専門家に相談する

投資の専門家や信頼できるアドバイザー、弁護士等に相談し、第三者の意見を聞くことで冷静な判断ができるようになるのではないでしょうか。

AI詐欺は巧妙な手口を使って騙してくるため、慎重な判断と情報収集が重要です。

あなたが泣き寝入りしないために

絶対に許せない。弁護士を立てて訴えてやりたい!
だけど費用的に無理・・・という時代は終わりました。
加入者数27,000件突破!弁護士費用お支払い件数15,000件突破! *1
11年連続No.1「弁護士保険ミカタ」*2
  • 離婚・男女トラブル
  • 労働トラブル
  • 近隣トラブル
  • 誹謗中傷トラブル
  • 相続トラブル

私たちの身の回りに潜む身近なこれらのトラブル(一般事件)に遭遇したときの弁護士費用を最大90%補償

トラブルの初期段階で弁護士に電話で、相談料無料で初期相談ができる「弁護士直通ダイヤル」トラブルを未然に防ぐアイテム「弁護士保険証」も大変好評です! *4

気になる方はまずは資料請求から!(ご自宅への送付、メールへの送付が選べます)

\ 累計資料請求100,000件突破 /

丸山弁護士

「私、弁護士保険に入ってるんですよ」このひと言は非常に強烈なんです。

*1 件数は2023年3月現在  *2  2013年~2022年。単独型弁護士保険として。2023年3月当社調べ。*3 99プランの場合 *4 初期相談‥事案が法律問題かどうかの判断や一般的な法制度上のアドバイス 募集文書番号 M2022営推00409

まとめ

生成AI詐欺とは、本来人間にとってプラスに作用するものであったはずのものが、これを悪用して、詐欺行為を行う犯罪のことです。

生成AIは、テキスト、音声、画像、動画などを自然な形で生成することができる技術のため、この技術が進化するにつれて詐欺師たちは巧妙な詐欺の手法を編み出しています。

主な手口は、

  • 音声詐欺・・・特定の人物の声を模倣
  • テキスト詐欺(文章生成AI詐欺)・・・偽の請求書やフィッシングメール
  • 画像・動画詐欺・・・ディープフェイク、偽造身分証明書、架空動画

などで、残念ながら詐欺であることを見破ることが日々難しくなっています。

防止策としては、自分が感じた違和感を信じて不自然だと思ったメールは開かない、URLはクリックしないことが大切です。

また、できることなら普段から家族や友人との連絡を密にし、突発的な緊急事態が発生した際には直接確認することで、詐欺を防ぐことができます。

そしてまず、本人が冷静になることが大事です。

「詐欺に遭った」と感じたら、焦らずに行動することが大切です。

警察や専門機関、弁護士などすぐ詐欺相談窓口に連絡して、専門家の助けを求めましょう。

また、金融機関に連絡して、被害の拡大を防ぐ措置をしてください。

生成AI詐欺は技術の進化とともに巧妙化しており、その手口は多様化しています。

個々人が警戒心を持ち、対策を講じることで、被害を未然に防ぐことが大切です。

この記事が、少しでもお役に立てれば幸いです。

弁護士
松本隆弁護士

弁護士 松本隆

神奈川県 弁護士会所属
横浜二幸法律事務所
所在地 神奈川県横浜市中区山下町70土居ビル4階
TEL 045-651-5115

労働紛争・離婚問題を中心に、相続・交通事故などの家事事件から少年の事件を含む刑事事件まで幅広く事件を扱う

----------------------------------------------------------------------------------------------------------------

2019年よりミカタ少額短期保険(株)が運営する法律メディアサイトです!

日常生活で困ったこと・疑問に思ったこと等、

法律に関するトラブル解決方法やお役立ち情報を、

弁護士監修のもと発信しています♪

----------------------------------------------------------------------------------------------------------------

よかったらシェアしてください!
  • URLをコピーしました!
目次