AIのクローン音声を利用した誘拐未遂事件が勃発
 いまだにオレオレ詐欺(振り込め詐欺)がはびこっている中、AIを利用することで、より巧妙な犯罪事件が発生している。

 米国アリゾナ州で、AIによる音声合成技術を悪用して、子供の誘拐未遂事件が起きた。危うく騙されかけたその母親によれば、誘拐されたと助けを求める電話の声は、紛れもなく娘のものだったという。

 だが実際はAIが本人の声を合成し、本人そっくりに作り上げたクローン音声だったのだ。

 今、アメリカではこのような音声合成AIを利用した詐欺事件が日常的に起きているという。そんな新手の詐欺から身を守るにはどうすればいいのか?

娘の声をAIで作り上げ、身代金要求する電話

 事件はとある見知らぬ電話番号から始まった。

 アリゾナ州在住のジェニファー・デステファノさんは、普段なら見知らぬ番号は留守電で受けることにしていた。

 ところが、その時は15歳の娘がスキーで留守にしていたので、もしや事故ではと心配になり、電話に出たのだという。

 「電話に出ると、『ママ!』と泣きじゃくる娘の声が聞こえました」と、デステファノさんは事件のことを地元メディアのWKYTに語っている。

 困惑しながら「どうしたの?」とステファノさんが問いかけると、「ママ、どうしよう」と娘が泣きながら伝えてきた。

 すると「頭を後ろに倒して、横になれ」という男の声が聞こえ、デステファノさんからさっと血の気が引いた。

 電話の男はこう告げてきた。

 「いいか。お前の娘は預かった。警察を呼んだら、娘を薬漬けにしてメキシコ送りにしてやるからな」

 震え出したステファノさんの耳元には、受話器越しに「助けて、ママ」という娘の泣き叫ぶ声が聞こえてくる。

 男は、娘を返して欲しければ100万ドル(約1億3000万円)払えと身代金を要求。そんな大金とても払えないとデステファノさんが伝えると、5万ドル(670万円)に額を引き下げてきた。

 幸いにも、このときデステファノさんはもう1人の娘の付き添いでダンススタジオにいた。周囲にはママ友がいて、1人は警察に、1人はデステファノさんの夫に連絡してくれた。
Mom warns of AI voice cloning scam that faked kidnapping l GMA

娘が家にいたことで、AIによる合成音声であることが判明

 男の電話から4分後、娘の無事が確認された。娘ははすでに家に帰宅しており2階の部屋にいたという。

 電話をすると「え?ママ?どうしたの」と、何が起きたのか全く分からない様子だったそうだ。「それでとにかく腹が立ってきました。本当に冗談では済まされません」と、デステファノさんは憤る。

 娘の安否を確認したデステファノさんは電話を切り、この身代金要求は詐欺であることがわかった。
2
photo by iStock

たった3秒の声があればAIが簡単にクローン音声を合成

  デステファノさんは、電話から聞こえてきたその声は紛れもなく娘のものだったと語る。
完全に娘の声でした。話し方のクセはあの子のもので、泣き声も本人のものでした。一瞬たりとも娘の声だと疑いませんでした。だから動揺したんです
 AIの技術革新により本人の声のサンプルがあれば、本人そっくりのクローン音声を合成することが簡単にできるのだ。

 アリゾナ州立大学のAIの専門家スバラオ・カンバンパティ教授は、「耳はもう信用できません」と音声合成AIの急速な進歩について説明する。

 同教授によると、以前ならAIで声をコピーするには、本人の声のサンプルが大量に必要だったが、今ではたった3秒の声があれば十分なのだそうだ。

 「その3秒間で、あなたの声そっくりの合成音声を作れます」とカンバンパティ教授。それはイントネーションや感情までもコピーされているという。

 そうした技術が、ますます簡単に利用できるようになりつつあるのだ。もちろん、道具は使い方次第なので、有益な使い方もあるだろう。

 その一方で、今回のように犯罪に悪用される危険性がある。
3

音声合成AIによる詐欺から身を守るために

 FBI特別捜査官補のダン・メイヨー氏によると、音声合成AIを悪用する詐欺師は、SNSで獲物を物色することが多いそうだ。

 だから、こうした詐欺師から身を守るには、自分のプロフィールを非公開にして、知らない人に個人情報を見られないようにすることが大切だという。

 詐欺師は個人情報がたくさん載っているアカウントを探して、それを元にその人を徹底的に調べ上げる。だからターゲットにされないためにも、まずは個人情報を明かさないことを徹底しなければならない。

 詐欺師は、口座への送金や、暗号通貨の送付、ギフトカードによる支払いなどで身代金を要求してくる。一度支払ってしまえば、取り戻すのはほぼ無理だそうなので、用心が必要だ。

 また見慣れぬ市外局番や海外からかかってきた電話、家族に相談できないよう口止するケースなども、詐欺の可能性を疑っておくといいという。

 そして何より慌てないことが大切だ。相手からギョッとすることを言われても、まずは冷静になること。そのうえで質問するのだ。

 「映画を思い出してください。まずは落ち着いて。そして相手のペースに乗らずに、たくさん質問してください」と、メイヨー氏は言う。

 「あなたは大切な人のことを、詐欺師なんかよりずっとたくさん知っているはずです。その人について、あなたしか知り得ないことを質問すれば、相手が詐欺師ならすぐにボロが出ます」

 今回のようなAI音声合成を悪用した誘拐詐欺がどのくらい起きているのか不明だが、「日常的に起きている」可能性が高いという。

References:‘I’ve got your daughter’: Mom warns of terrifying AI voice cloning scam that faked kidnapping / written by hiroching / edited by / parumo
あわせて読みたい
サイバーセキュリティの新たなる脅威。AIが生成した偽の報告書に専門家も騙される


フィンランドの囚人たちは刑務所内でAI(人工知能)に関する最先端技術が無料で学べる


宿泊客が反社会的な人格かどうかを予約前に診断するAIを開発、トラブルを未然に防ぐため


AI監視カメラから姿を隠す「透明コート」を開発


1週間後に起きる犯罪を9割の確率で予測するAIアルゴリズムが開発される

Advertisements

コメント

1

1. 匿名処理班

  • 2023年04月19日 20:26
  • ID:VCi6PYgi0 #

「絶対騙す振り込めAI 」vs 「融通が効かなくて人の話をきかない留守電AI」 ファイ!

2

2. 匿名処理班

  • 2023年04月19日 20:55
  • ID:DNP8d1q90 #

ほぼリアルタイムの合成もできちゃうからなぁ
日本に上陸したらどうなることやら

3

3. 匿名処理班

  • 2023年04月19日 21:08
  • ID:WMFyApjq0 #

もうそこまで来てるの? 声優いらないじゃん

4

4.

  • 2023年04月19日 21:10
  • ID:WYEJi1HI0 #
5

5.

  • 2023年04月19日 21:22
  • ID:225MIOlL0 #
6

6. 匿名処理班

  • 2023年04月19日 21:23
  • ID:3IvfTmGV0 #

例えば自作の漫画や小説のハイクオリティな音声化も自動でできる時代になるのか

7

7.

  • 2023年04月19日 21:26
  • ID:vTVO3FEd0 #
8

8. 匿名処理班

  • 2023年04月19日 21:37
  • ID:USFaajlL0 #

ターミネイターが現実に。

9

9. 匿名処理班

  • 2023年04月19日 22:04
  • ID:ihm5jrIt0 #

山田ボイスも進化できるな

10

10. 匿名処理班

  • 2023年04月19日 22:51
  • ID:nHx9eznn0 #

もうコナンくんのネクタイも作れそうだね

11

11.

  • 2023年04月19日 23:14
  • ID:6c.VLiuC0 #
12

12. 匿名処理班

  • 2023年04月20日 00:08
  • ID:mcIgHVlj0 #

攻殻機動隊!
全自動資本主義の再現くるか!

13

13.

  • 2023年04月20日 00:26
  • ID:vE.qHbA90 #
14

14. 匿名処理班

  • 2023年04月20日 09:15
  • ID:gwWf8pGT0 #

通信デバイスに対AI用のAIを取り入れる日も近いかもね。

15

15. 匿名処理班

  • 2023年04月20日 12:37
  • ID:7UpXC2O10 #

>>3
既にボイロによる解説動画なんかは、キャラ同士がすごく滑らかに会話してるのもあるからなぁ・・・

16

16. 匿名処理班

  • 2023年04月22日 19:09
  • ID:lZPle6qS0 #

好きな人の声をAIに40分くらい学習させてリアルタイムに
ボイチェンさせる事はもうVRChatの人達がやってるね。
発話から音声変換までに遅延が1秒くらいあるけど
すぐ慣れるみたい。
VRChatなら変身できるよ。
例えば、姿は 初音ミク で声は 藤田 咲 とか。

お名前
Sponsored Links
記事検索
月別アーカイブ
Sponsored Links
Sponsored Links