Facebookは、2020年の大統領選挙キャンペーン中の誤情報に対抗するための措置として、AI技術を使用して作成された非常に説得力のある偽の動画であるディープフェイクを禁止した。

ディープフェイクは、機械学習を用いて、人が様々な音を発声する際の顔の動きを分析します。AIは、あらゆる単語に必要な動きを模倣した偽の動画を作成できます。そして、これを実際の人物の音声クリップや物まね芸と組み合わせることで、本物の動画と見分けがつかないほどの偽のスピーチを作り出すことができます。

ワシントン大学は2017年の夏にこの技術を使って偽のオバマ演説を作成した（下記）。

Facebookは現在ディープフェイクを禁止していると発表している。

Facebookでは毎日何百万枚もの画像や動画が共有され、プラットフォーム上で最も魅力的でクリエイティブなビジュアルが生み出されています。そのコンテンツの中には、動画をより鮮明にしたり、音声をよりクリアにしたりするといった、無害な目的で操作されているものもあります。しかし、誤解を招くようなメディア操作を行う人もいます。

Photoshopのようなシンプルな技術から、人工知能や「ディープラーニング」技術を駆使した高度なツールを使って現実を歪めた動画（通称「ディープフェイク」）を作成するまで、様々な加工が行われます。こうした動画はインターネット上ではまだ稀ですが、その利用が増えるにつれ、業界や社会にとって大きな課題となっています[…]

ディープフェイクと特定された、誤解を招くような操作された動画に対するポリシーを強化しています。今後、以下の基準を満たす、誤解を招くような操作されたメディアを削除します。

• 明瞭度や画質の調整を超えて、一般の人には判別できない方法で編集または合成されており、ビデオの被写体が実際には発していない言葉を言ったと誤解させる可能性があります。また、
• これは人工知能または機械学習の成果であり、コンテンツをビデオに結合、置き換え、または重ね合わせて、本物のように見せかけます。

しかし、このAI基準は、 従来の編集ツールを用いて作成された誤解を招く動画は禁止され ないことを意味します。ワシントン・ポスト紙が指摘しているように、これはナンシー・ペロシ下院議長の動画のような、話題になった動画が禁止されないことを意味します。

5月、ペロシ氏が酩酊状態にあるように見せかける動画が何者かによって作成されました。これは、動画を通常の75%の速度に減速し、それに合わせて声の高さを調整することで実現されました。その結果、ペロシ氏がろれつが回らず、考えをまとめるのにかなりの時間を要するように見える、説得力のある映像が生まれました。ワシントン・ポスト 紙が指摘しているように、この動画は新ポリシーの下でも許可されるでしょう。

Facebook 社は、これが同社が取る唯一の措置ではないと述べている。

削除基準を満たさない動画も、世界中の50社以上のパートナーが40以上の言語でファクトチェックを行う、独立した第三者ファクトチェッカーによる審査の対象となります。写真や動画がファクトチェッカーによって虚偽または一部虚偽と判断された場合、ニュースフィードへの掲載を大幅に削減し、広告として掲載されている場合は拒否します。さらに重要な点として、その動画を見た人、共有しようとした人、すでに共有した人には、虚偽であることを警告するメッセージが表示されます。

ソーシャルネットワークは、このアプローチは単に削除するよりも優れていると主張している。

ファクトチェッカーによって虚偽と判断された操作された動画をすべて削除しただけでは、それらの動画はインターネット上やソーシャルメディアのエコシステム上の他の場所で閲覧可能のままです。これらの動画をそのまま残し、虚偽であると表示することで、人々に重要な情報と文脈を提供しています。

しかし、Facebookがディープフェイクを禁止しているのに、AIを使わずに作成されたフェイク動画を禁止していないのは理解に苦しみます。なぜフェイク動画をすべて禁止するか、あるいはすべて許可してフェイクと表示しないのでしょうか？フェイク動画の作成方法によって、その扱いが決まるというのは、奇妙な基準に思えます。

ディープフェイク動画の例を下記でご覧いただけます。

havebin.com を Google ニュース フィードに追加します。