ディープフェイクは、AIの最も危険な側面と言えるでしょう。偽の写真、音声、さらには動画さえも、今では比較的簡単に作成できます。例えば、モーガン・フリーマンとトム・クルーズのディープフェイクについては、以下をご覧ください。

しかし、これまでソーシャルメディアはディープフェイクを拡散する手段として利用されてきましたが、インスタグラムの責任者アダム・モッセーリ氏は、ソーシャルメディアがディープフェイクを暴く上で重要な役割を果たす可能性があると考えています…

ディープフェイクはどのように作られるのか

これまでディープフェイク動画を作成するために主に使用されてきた方法は、生成的敵対的ネットワーク (GAN) と呼ばれるアプローチでした。

1つ目のAIモデルは、偽の動画クリップを生成するか、本物の動画クリップを表示します。2つ目のAIモデルは、偽物の識別を試みます。このプロセスを繰り返し実行することで、最初のモデルはより説得力のある偽物を生成できるようになります。

しかし、DALL-E 2のような普及モデルが現在主流になりつつあります。これらのモデルは実際のビデオ映像を撮影し、様々な変更を加えて膨大な数のバリエーションを作成します。テキストプロンプトを使ってAIモデルに望む結果を指示できるため、使いやすくなっています。そして、より多くの人が利用すればするほど、AIモデルはより良く訓練されるのです。

ディープフェイク動画の例

以下は、テクノロジーが今ほど洗練されていなかった 3 年前に作成された、モーガン フリーマンのディープフェイクのよく知られた例です。

そしてもう一つは、トム・クルーズがアイアンマンを演じるシーンです。

イギリス人なら、金融アドバイスを提供することで有名なマーティン・ルイスが、仮想通貨詐欺を宣伝するディープフェイクに登場していることに気付くかもしれない。

Metaの幹部アダム・モッセリ氏は、ソーシャルメディアは偽コンテンツの検出に役立ち、事態を悪化させるどころかむしろ改善できると考えている。ただし、ソーシャルメディアはこれを完璧に行うわけではないため、各自が情報源を考慮する必要があるとも指摘している。

長年にわたり、私たちは静止画も動画も含め、リアルな映像を作り出す能力をますます高めてきました。10歳の頃、『ジュラシック・パーク』は衝撃的でしたが、制作費は6300万ドルでした。N64の『ゴールデンアイ』は、4年後、実写だったこともあり、さらに大きな感動を与えてくれました。今になってこれらのメディアを振り返ると、せいぜい粗削りにしか思えません。テクノロジーに強い関心を持つか弱い関心を持つかはさておき、生成AIは明らかに現実の映像と判別しにくいコンテンツを生み出しており、しかも急速に進化しています。

10年くらい前、友人の@lessinが、どんな主張も内容だけでなく、主張する人物や組織の信頼性も考慮して評価されるべきだと私に勧めてきました。もしかしたら何年も前のことかもしれませんが、今こそ、ある発言の妥当性を評価する際に、何を言っているかよりも誰が言っているかを考慮することの方が重要になっていることを、私たち全員が認識し始めているように感じます。

インターネットプラットフォームとしての私たちの役割は、AIによって生成されたコンテンツにできる限りラベルを貼ることです。しかし、一部のコンテンツは必然的に見落とされてしまうでしょうし、すべての誤解がAIによって生成されるわけではないため、誰がコンテンツを共有しているのかという文脈も提供し、ユーザーがそのコンテンツをどの程度信頼できるかを判断できるようにする必要があります。

視聴者、あるいは読者が、現実の記録や記録を謳うコンテンツを視聴する際に、識別力を持つことがますます重要になってきます。私のアドバイスは、常に誰が話しているのかを意識することです。

画像: シャムーク

havebin.com を Google ニュース フィードに追加します。