FBI、AIディープフェイク恐喝詐欺を警告

本物そっくりの画像を作成する生成 AI の能力は印象的ですが、米国連邦捜査局は、犯罪者が被害者を恐喝のターゲットにするためにディープフェイクを使用していると述べています。

「FBIは、未成年の子供や同意のない成人を含む、写真やビデオが露骨な内容に改変された被害者からの報告を引き続き受けている」と同局は月曜日のPSA警告で述べた。

FBIによると、法執行機関は昨年、未成年者を対象としたオンライン恐喝に関する7,000件以上の報告を受けており、4月以降ディープフェイクを使ったいわゆる「セクストーション詐欺」の被害者が増加しているという。

ディープフェイクは、人工知能によって作成される、ますます一般的になっている種類のビデオまたはオーディオ コンテンツであり、Midjourney 5.1 や OpenAI の DALL-E 2 などの生成 AI プラットフォームのおかげで、偽のイベントを描写し、偽物であると見分けるのがますます困難になっています。

5月には、仮想通貨投資家を騙すために作られたテスラとツイッターのイーロン・マスクCEOのディープフェイクが拡散した。 ソーシャルメディアで共有されたビデオには、詐欺に合わせて編集されたマスク氏の過去のインタビューの映像が含まれていた。

ディープフェイクはすべてが悪意のあるものというわけではなく、バレンシアガの白いジャケットを着たフランシスコ教皇のディープフェイクが今年初めに話題になり、さらに最近では、AIが生成したディープフェイクが殺人事件の被害者を生き返らせるためにも使用されている。

FBIは勧告の中で、身代金を支払っても犯罪者がディープフェイクを投稿しないという保証はないため、身代金を支払わないように警告した。

FBIはまた、個人情報やコンテンツをオンラインで共有する際には、アカウントを非公開にするなどのプライバシー機能の使用、子供のオンライン活動の監視、過去に交流した人々の異常な行動に注意するなどの注意を呼び掛けている。 同庁はまた、個人情報や家族情報をオンラインで頻繁に検索することも推奨している。

米国連邦取引委員会も警鐘を鳴らしている他の機関で、犯罪者が友人や家族の音声ディープフェイクを作成し、誘拐されたという内容の音声を作成し、何も知らない被害者を騙して送金させるためにディープフェイクを利用していると警告した。

「人工知能はもはやSF映画の中の突飛なアイデアではない。私たちは今、ここで人工知能とともに生きている。詐欺師がAIを使って愛する人の声を複製する可能性がある」とFTCは声明で述べた。 3月の消費者向け警告では、犯罪者にとって必要なのは、録音を本物に聞こえるようにするための家族の声の短い音声クリップだけであると付け加えた。

FBIはDecryptのコメント要請にまだ応じていない。