同社が苦情に対応する前に、Instagram ユーザーは Reels に暴力的かつ性的に露骨なコンテンツが大量に投稿されるのを目にした…

親会社であるMeta社は、この問題はすでに解決したと述べており、これは同社の新しい緩和されたモデレーションポリシーによるものではなく、「間違い」によるものだと主張している。

CNBCはこの問題を直接経験したと報じている。

水曜日の夜、米国でCNBCは、インスタグラムのリールに複数の投稿が投稿されているのを確認した。そこには、死体、生々しい怪我、暴力行為などが映っているとみられる。これらの投稿には「センシティブなコンテンツ」というラベルが付けられていた[…]

多くのインスタグラムユーザーが、さまざまなソーシャルメディアプラットフォームで、最近急増している暴力的なコンテンツや「職場で閲覧不可」のコンテンツの推奨について懸念を表明した。

一部のユーザーは、Instagramの「センシティブなコンテンツの管理」を最高のモデレーション設定で有効にしていたにもかかわらず、そのようなコンテンツを見たと主張している。

報告書の最新版では、Meta 社がこの件について謝罪したと報じられている。

Metaの広報担当者はCNBCに共有された声明の中で、「一部のユーザーのInstagram Reelsフィードに、推奨されるべきではないコンテンツが表示されてしまうというエラーを修正しました。このミスをお詫び申し上げます」と述べた。

MetaのCEO、マーク・ザッカーバーグ氏は先月、同社はコンテンツの自動チェックを削減しており、今後はユーザーから苦情を受けてからのみ行動を起こすことが多いと述べた。

これまで、すべてのポリシー違反を自動システムでスキャンしてきましたが、その結果、多くのミスが発生し、検閲されるべきでないコンテンツが検閲されてしまうという問題がありました。そのため、これらのシステムは、テロ、児童の性的搾取、麻薬、詐欺、詐欺行為といった、違法かつ重大度の高い違反への対策に引き続き重点的に取り組んでいきます。軽微なポリシー違反については、何らかの措置を講じる前に、必ずご報告をお願いいたします。

また、システムが基準に違反する可能性があると予測したコンテンツを過度に降格させています。現在、こうした降格の大半を廃止し、残りのコンテンツについては、コンテンツが違反しているという確度をより高めた基準で判断するよう取り組んでいます。さらに、コンテンツを削除する前に、より高い確度を求めるようシステムを調整していく予定です。

画像: Meta/9to5Mac

havebin.com を Google ニュース フィードに追加します。