フェイスブックは、いわゆる「リベンジポルノ」（元パートナーなどが合意なく露骨な写真を共有すること）の投稿や、特に10代の若者に対する性的脅迫行為を防ぐ方法に取り組んでいる。

2017年に登場した最初のツールは、あまりにも恐ろしいものだったので、使いたがる人はほとんどいませんでした。Facebookにヌード写真をアップロードしないと、ブロック対象としてタグ付けされてしまうのです！しかし、当初は10代の若者向けに開発された新しいツールでは、若者が自分のデバイス上でデジタル指紋を作成できるようになります…

リベンジポルノとセクストーション

リベンジポルノ（合意のないポルノとも呼ばれる）は深刻な問題となっています。かつては、加害者が数人の友人に直接写真を見せていたのに、今では加害者が簡単にソーシャルメディアに写真をアップロードし、数百人に見られるようになってしまったのです。

また、十代の若者が「セクストーション」の被害者になることも増えている。これは、大人が彼らを騙してウェブカメラで自分の姿を公開させ、その映像を録画し、公開の脅迫を利用して被害者を脅迫し、他の行為をさせたり、金銭を要求したりするものである。

「ハニートラップ」による被害で最も多いのは10代の男性です。出会い系アプリの魅力的な女性モデルが、通常は同年代の人物を装い、被害者をウェブカメラで誘惑して行為を行わせ、それを利用して金銭を脅し取ります。

これまでのアプローチは怖すぎたり、信頼できなかったりした

Facebookがこの問題に最初に取り組んだのは、ユーザーが自身のヌード写真をサービスにアップロードできるようにすることでした。これにより、ハッシュ化されたデジタル指紋が生成され、その指紋を使って、他人が同じ写真をアップロードするのを阻止するのです。

当然のことながら、自分に画像を送信するだけで済むにもかかわらず、プライバシーを侵害する写真を Facebook にアップロードするリスクを冒す人はほとんどいませんでした。

2番目のバージョンでは、AIを使用して問題のある画像を識別しようとしました。

最新のツールは完全に自分のデバイス上で動作します

CNNは、FacebookとInstagramの所有者であるMetaが、より良いアプローチを目指して全米行方不明・被搾取児童センター（NCMEC）と提携していると報じている。

国立行方不明・被搾取児童センターが運営する「テイク・イット・ダウン」は、初めて未成年者が新しいプラットフォームにアップロードすることなく、自分のデバイスから直接プライベートな画像や動画にハッシュ（またはデジタル指紋）を匿名で添付することを可能にする。

不適切な画像のハッシュを作成するには、10代の若者はTakeItDown.NCMEC.orgというウェブサイトにアクセスし、デバイスにソフトウェアをインストールします。画像ではなく、匿名化された番号がMetaにリンクされたデータベースに保存されます。そのため、その写真がFacebookやInstagramに投稿された場​​合、元の画像と照合され、審査され、削除される可能性があります。

Appleが廃止したCSAMスキャンと同様のアプローチ

これが聞き覚えがあるとすれば、それは Apple が既知の児童性的虐待資料 (CSAM) をスキャンするために使用することを計画していたものと非常に似ているためです。

その場合、NCMECはAppleに既知の不正コンテンツのデジタルハッシュを提供することになります。AppleはユーザーのiPhoneに保存されている写真のデジタルハッシュを作成し、iPhoneで2組の指紋を比較するスキャンを実行します。複数の指紋が一致した場合、該当する写真はアップロードされ、手動で審査されます。

しかし、権威主義的な政府がAppleに抗議ポスターなどのハッシュタグのチェックを強制する能力など、4つの懸念が提起されました。Appleはこれらの懸念の一部には対処できましたが、すべてには対応できず、その後、この計画を断念したことを確認しました。

MetaとNCMECが開発したシステムは、iPhone所有者が自由にツールを使用することを選択しているため、同様の懸念を引き起こすことはないはずだ。

写真：メラニー・ワッサー/アンスプラッシュ

havebin.com を Google ニュース フィードに追加します。 

FTC: 収益を生み出す自動アフィリエイトリンクを使用しています。詳細はこちら。