Twitterは現在、人間による確認とAIを組み合わせて問題のあるツイートを特定しています。ツイートがTwitterのポリシーに違反している場合は削除されます。

しかし同社は現在、厳密にはルールに違反していないものの、「不健全」であったり会話の妨げになるようなツイートに対処するために、革新的なアプローチを採用することを目指している…

Twitter自身のブログ投稿では、この仕組みについてはあまり明らかにされていませんでしたが、  Slateが詳細を報じています。実質的にTwitterは、ツイートへの反応を見ることで、荒らしを特定する作業をクラウドソーシングしているようです。

同社のソフトウェアは、アカウントがユーザーから苦情を受けている頻度や、ブロックやミュートされている頻度と、お気に入りやリツイートといったより肯定的なインタラクションを受けている頻度など、多数のシグナルを分析します。この機能では、ツイートの実際の内容ではなく、特定のアカウントが生成する傾向のあるインタラクションの種類のみを分析します。

例えば、ハーベイ氏は「同じメッセージを4人に送信し、そのうち2人があなたをブロックし、1人があなたを報告した場合、メッセージの内容が何であるかを見なくても、一般的にはそれが否定的なやり取りであると推測できます」と述べた。

問題のあるアカウントが特定されると、Twitterは一種のシャドウバンを実施します。そのアカウントのツイートはスレッドの下部にある「返信をもっと見る」リンクの下に移動され、通常の検索結果には表示されなくなります。その後のツイートもすべて、そのアカウントの「スコア」が改善するまで同様の影響を受けます。

Twitter社は、このアプローチは荒らしとボットの両方に対して同様に効果的であると信じており、影響を受けるアカウントは1%未満であると予想している。

写真：ロイター/カクペル・ペンペル

Apple のニュースをもっと知りたい場合は、YouTube の 9to5Mac をご覧ください。

havebin.com を Google ニュース フィードに追加します。 

FTC: 収益を生み出す自動アフィリエイトリンクを使用しています。詳細はこちら。