TikTokのディープフェイク動画の多くは、肖像権を侵害された著名人から非難を浴びています。その中には、ミスタービースト、トム・ハンクス、ゲイル・キングなどがいます。

MrBeastの偽動画では、視聴者がたった2ドルでiPhone 15 Proを受け取る権利を得たと主張しており、このYouTuberスターはソーシャルメディアネットワークがディープフェイク詐欺に備えているのかどうか疑問視している…

ディープフェイクとは何ですか?

ディープフェイクとは、生成 AI を使用して、通常は有名人、政治家、その他の公人の映像を偽造したビデオです。

より優れたものは非常に説得力があり、通常は実際の人物の動画とAIが生成した口の動きを偽の音声に合わせて組み合わせます。音声は、何時間にも及ぶソース映像から実際の単語やフレーズをつなぎ合わせたり、同じトレーニングデータからリアルな声の模倣を生成したりします。

ディープフェイクは、デマに信憑性を与えて金銭を騙し取ったり、選挙結果に影響を及ぼすことを目的とした政治的な偽情報を流したりするなど、明らかに大きな危害を及ぼす可能性があります。

NBC がMrBeast の例を報道しています。

本名ジミー・ドナルドソンというYouTubeスターのミスタービーストは、TikTokの詐欺広告に2ドルのiPhoneを提供するという彼のディープフェイクが使われたことを受けて、ソーシャルメディアプラットフォームは偽のAI広告に対処する準備ができているかどうかを問いかけている。

「多くの人が私のディープフェイク詐欺広告を受け取っています…ソーシャルメディアプラットフォームはAIディープフェイクの台頭に対処できる準備ができているのでしょうか？これは深刻な問題です」とドナルドソン氏はX（旧Twitter）に投稿した。コメントを求められ、ドナルドソン氏の広報担当者はNBCニュースにこの投稿を紹介した。

TikTokは動画を削除したと述べ、合成または操作されたメディアの開示を義務付けるポリシーを指摘した。

CNET は、トム・ハンクスも被害者の一人であり、彼の肖像が歯科保険プランの宣伝に利用されたと報じている。

トム・ハンクスは、『フォレスト・ガンプ』でチョコレートの箱を持っている姿も、『アポロ13』で宇宙服を着ている姿も、かなり有名です。しかし、もし彼の写真が載っている歯科保険の広告を見かけたら、もう一度よく見てください。オスカー受賞俳優の彼ではないのですから。

「気をつけて！」ハンクスは今週末、インスタグラムに書き込みました。「私のAIバージョンを使って、ある歯科保険プランの宣伝動画が出回っています。私は一切関係ありません。」

CBS Mornings の司会者 Gayle King も同様です。

キング氏は月曜日にインスタグラムにも同様の投稿をした。

「この動画が送られてきて、この製品について尋ねてくる人がいますが、私はこの会社とは全く関係ありません」とキング氏は綴った。「この動画は8月31日に私のラジオ番組のプロモーションとして投稿したものです（スワイプでオリジナル動画をご覧いただけます）。彼らは私の声と動画を操作し、あたかも私が宣伝しているように見せかけました…私はこの製品について聞いたことも、使ったこともありません！どうかこれらのAI動画に騙されないでください」

NYU教授がTikTok禁止を呼びかける

中国が運営する短編動画アプリをめぐる幅広い論争は続いており、アルゴリズムで生成されたフィードが、ユーザーに親中国的かつ反欧米的なコンテンツを提供するのに利用される可能性があると懸念する声が多く上がっている。

TNWは、ニューヨーク大学のスコット・ギャロウェイ教授がヘルシンキでの会議で、このアプリは国家安全保障に対する脅威であると語ったと報じている。

ギャロウェイ氏は、TikTokをおそらく「歴史上最も台頭しているテクノロジー企業」であり、「国家防衛上の脅威」であると述べた[…] 「彼らは私たちの若者のウェブにニューラルジャックを埋め込んだ」とギャロウェイ氏は述べた[…]

ギャロウェイ氏は、こうした視聴者が中国共産党に洗脳されているのではないかと懸念している。「もし私が彼らだったら、反西側コンテンツと親中国コンテンツの秤に、繊細に、巧妙に、隠密に、そして優雅に親指を立てるだろう」と彼は言った。

写真: ジェイコブ・オーウェンズ/Unsplash

havebin.com を Google ニュース フィードに追加します。