Facebook のアルゴリズムは部分的にプログラムされており、部分的に機械学習に基づいています。そのため、Facebook は、事実上、ユーザーに対して分裂的なコンテンツを宣伝していることを知るために調査を実施しなければならなかったのです...

アルゴリズムの主な役割は、ユーザーエンゲージメントを最大化することであるため、これを達成するコンテンツを強調表示し、達成しないコンテンツの可視性を低下させます。

内部調査の結果、意図せぬ結果の一つとして、ユーザーがセンセーショナルで分断を煽るコンテンツに積極的にさらされ、それがユーザーの反応を促したことが判明しました。 ウォール・ストリート・ジャーナル紙によると、このソーシャルネットワークの上級幹部は、分断を煽るコンテンツの露出を制限する措置を取るよう求められたものの、実際にはそうしなかったとのことです。

Facebookのチームは幹部たちに率直なメッセージを送りました。同社のアルゴリズムは人々を結びつけるどころか、むしろ分断させている、と。

「私たちのアルゴリズムは、人間の脳が分裂を好む性質を利用しています」と、2018年のプレゼンテーションのスライドには書かれていました。「もし放置されれば」Facebookは「ユーザーの注目を集め、プラットフォーム上での滞在時間を延ばすために、ますます分裂的なコンテンツを提供するだろう」と警告していました。[…]

過激派グループの数の多さは懸念すべきことだと、以前のプレゼンテーションで述べられていた。さらに悪いことに、Facebookは自社のアルゴリズムが過激派グループの拡大の原因であると認識し、「過激派グループへの参加の64%は当社の推奨ツールによるもの」であり、活動の大部分はプラットフォームの「参加すべきグループ」と「発見」アルゴリズムによるものだと結論付けた。「当社の推奨システムが問題を拡大させている」[…]

フェイスブックは、自社のプラットフォームがユーザーの行動にどのような影響を与え、潜在的な害悪にどう対処できるかを把握するための社内調査を開始した。マーク・ザッカーバーグ最高経営責任者（CEO）は、公私を問わず「扇情主義と分極化」への懸念を表明していた。

しかし、結局、フェイスブックの関心は束の間に過ぎなかった。これまで公表されていなかった内部文書や、この取り組みに詳しい関係者によると、ザッカーバーグ氏をはじめとする上級幹部は基礎研究をほぼ棚上げし、その結論をフェイスブックの製品に適用する取り組みを弱めたり、阻止したりした。

報告書によれば、これには、広告を見る時間を減らしたくないという明白な理由に加えて、2つの理由があったという。

まず、フェイスブックは、たとえユーザーの利益のためであっても、言論の自由を妨害すべきではない、それは「父権主義的」である、という見解をとった。CEOのマーク・ザッカーバーグ氏は、この主張を特に強く支持していると言われている。

同氏は、たとえ内容が不快なものであっても、Facebookは事実上、言論の自由の守護者であると主張している。この立場が、2020年の選挙を前にFacebookが政治広告のファクトチェックを行わない決定を下した根拠となっている。

第二に、分裂を制限するいかなる行動も政治的動機によるものと受け取られる可能性がある。

同社が政治的偏向があると右派から非難されていた当時、提案された変更の中には、保守派のユーザーや出版社に不釣り合いな影響を与えるものもあった。

この作品全体を読む価値がある。

havebin.com を Google ニュース フィードに追加します。 

FTC: 収益を生み出す自動アフィリエイトリンクを使用しています。詳細はこちら。