2つの大手出会い系アプリ企業は、児童性的虐待者の行動を模倣したテストの結果、性的に露骨なコンテンツと一緒に広告が配信されたことを受けて、インスタグラムでの広告を一時停止した。

影響を受ける他のブランドには、ディズニー、ピザハット、ウォルマートなどがあります…

すべての主要ブランドは、Meta やその他のソーシャル メディア ネットワークに対して、自社の広告が不適切なコンテンツ (通常はヘイトスピーチや性的に露骨なコンテンツを含む) の隣に表示されないようにするための制御機能を備えています。

ウォール・ストリート・ジャーナルとカナダ児童保護センターが独自に実施したテストでは、児童虐待者がInstagramで行う可能性のある行動を模倣しようとした場合、大手ブランドの広告が性的に露骨な画像と一緒に表示される可能性があることが判明しました。具体的には、子供の体操選手やチアリーダーなどの画像を検索しながら、同時に成人向けの性的コンテンツも探すというものです。

両組織は、これらのアカウントに対して行われた推奨事項と配信された広告を記録しました。

Instagramのシステムは、これらのテストアカウントに、子供のきわどい映像や露骨に性的なアダルトビデオ、そして米国の大手ブランドの広告など、不快な量のわいせつなコンテンツを提供した[…]

インスタグラムがおすすめした一連の動画では、等身大のラテックス人形の顔を撫でる人物の動画と、デジタル処理で顔がぼかされた少女がシャツをめくり上げてお腹を露出させる動画の間に、出会い系アプリ「Bumble」の広告が表示されました。また、別の動画では、ベッドに横たわり、キャプションによると10歳の少女の腕を抱きしめる男性の動画の後に、ピザハットのCMが表示されました。

確かに、このテストはインスタグラムユーザーのごく少数の行動をモデルにしたものだが、このプロフィールに一致するアカウントが何万件も見つかり、それらのアカウントをフォローすると類似のコンテンツが見られたとウォール・ストリート・ジャーナルは報じている。

2つの出会い系アプリブランドが、すべてのMetaプラットフォーム上での広告掲載を停止した。

メタの苦情への対応が不十分だったとされる中、マッチは10月、Tinderなど一部のアプリにおけるメタ広告の掲載を中止し始めた。その後、リール広告を全て停止し、メタのプラットフォームにおける主要ブランドのプロモーションも停止した。「メタに金銭を支払って、悪質な広告主に対して自社ブランドを売り込んだり、こうしたコンテンツの近くに広告を掲載したりするつもりはありません」とマッチの広報担当者ジャスティン・サッコ氏は述べた。

バンブルの広報担当者ロビー・マッケイ氏は「不適切なコンテンツの隣に意図的に広告を掲載することは決してない」と述べ、メタのプラットフォーム全体での広告掲載を一時停止していると語った。

他のブランドは、不適切な広告配置が自社のブランドを危険にさらしていないかを判断するために、インスタグラムの親会社であるMetaが独立した監査を実施するための費用を支払っていると述べている。

9to5Macへの声明の中で、メタ氏はこの体験は「作り出されたもの」だと述べた。

私たちはこのようなコンテンツをプラットフォーム上に掲載したくありませんし、ブランドも自社の広告がそのようなコンテンツの隣に表示されることを望んでいません。私たちはこうした事態を阻止するために積極的な投資を続けており、このようなコンテンツの蔓延状況を四半期ごとに報告しています。その蔓延状況は依然として非常に低い水準にとどまっています。私たちのシステムは有害コンテンツの削減に効果的であり、安全性、セキュリティ、ブランド適合性に関するソリューションに数十億ドルを投資してきました。

これらの結果は、世界中の何十億もの人々が毎日私たちの製品やサービスを利用する際に目にする体験を反映していない、作り出された体験に基づいています。Reelsは、堅牢な安全管理と対策を講じた上で、約1年間テストを行い、その後広く公開しました。2023年には、FacebookとInstagramの全世界で、毎月400万件以上のReelsに対し、ポリシー違反を理由に措置を講じました。

同社によると、成人のヌードや性行為の蔓延率は、Instagram 上のコンテンツ 10,000 回閲覧あたり 3 ～ 4 回で、違反コンテンツが占めているという。

9to5Macの見解

X での同様の実験 (ヘイトスピーチをフォローするためのアカウントが作成され、そのコンテンツの隣に広告が表示される企業の中に Apple が含まれていた) と同様に、いわゆるエッジケースで問題が存在するかどうかを調べるという明確な目的でテストが実行されたという事実に異論はない。

しかし、こうしたアカウントの実例は確かに存在し、広告主は問題のあるコンテンツに広告を掲載しないことを約束されています。たとえそれが極めて不快な人物のアカウントであっても、ソーシャルメディア企業にはこれらの約束を守る責任があります。

havebin.com を Google ニュース フィードに追加します。