データディストピア

20世紀のディストピアは、主に2つのフレーバーで発生しました。オーウェルの 1984年 、そしてハクスリーのように、馬鹿げた喜びのドーム 勇ましくて、新しい世界 。これらが別々の悪夢ではなかった場合はどうなりますか？本当の脅威は、罰ではなく誘惑の奉仕における監視である可能性があります。

Facebookは、お互いにつながり続けたいという衝動を満たすのに役立つため、非常に成功しています。その衝動により、私たちの約10億人が、私たちの社会生活のかなりの部分の痕跡を1つの会社に提供するようになりました。 （Facebookが知っていることを参照してください） 。

このストーリーは2012年7月号の一部でした

• 残りの問題を見る
• 購読

社会科学者として、私はこのデータの山にひどく興奮しています。なぜなら、それは人間の動物を研究するための素晴らしいリソースだからです。 Facebookは最高のビッグデータソースの1つであり、社会の理解に貢献する可能性があります。しかし、この情報には、広告のターゲティングを超えた用途があります。見込み客はこれまでのところFacebookユーザーを惑わせているようには見えませんが、民主主義にとって不健康な方法で市民、政治、社会のメッセージを標的にするために使用される可能性があります。

たとえば、政治キャンペーンでは、有権者がFacebookアプリやページに接続するように促します。これにより、個人だけでなく、そのソーシャルネットワークやインタラクションに関する詳細なデータにアクセスできます。これにより、前例のない精度と規模でプロファイリングする機会が生まれます。 Facebookでの悪質なネガティブな政治キャンペーンの最初の波を待っています。 （私たちのほとんどは、それが受容的なニッチ、あるいは個人にさえも狭く標的とされる可能性があるので、それに気付かないかもしれません。）

Facebookが収集したデータを使用する方法は、私たちの社会的相互作用に影響を与える可能性があります。 Facebookのニュースフィードには、すべての更新や最新のものが表示されるわけではなく、Facebookがクリックまたはコメントできると考えているものが表示されます。ニュースフィードアルゴリズムは、特定の動作に対して強化のスパイラルを作成します。詳細は秘密ですが、リバースエンジニアリングは、Facebookが写真がテキストよりもエンゲージメントを生み出すと考えていることを示しています。それらの更新はより目立つように機能し、さらに多くのエンゲージメントにつながります。明示的な指示がなくても、人々は間違いなくこれらの手がかりをつかみ、さらに多くの写真を投稿し始めるでしょう。他の方法でも、Facebookは私たちがどのように社交するかを導いているかもしれません。おそらく、陽気な投稿がより目立つようになります。おそらく、Facebookがクリックを生成する種類の投稿ではないと判断して人々のニュースフィードで自殺を格下げしたため、誰も応答しなかった短い、不可解なステータスの更新に続いて、いつか自殺について知るでしょう。

Facebookが提起する質問に対する簡単な答えがあるとは言いません。ニュースフィードのアルゴリズムには欠点があります。しかし、Facebookは重要な市民のニッチを占めているため、質問は重要です。大量のデータをどのように使用するか、何を公開するか、政治的および企業的なキャンペーンにどれだけのアクセスを提供するかについての決定は、私たち全員に影響を与えます。この素晴らしいデータストアの可能性だけでなく、会社が持つ力とそれが支持する倫理についても話す必要があります。

Zeynep Tufekciは、ノースカロライナ大学の助教授であり、ハーバード大学のバークマンインターネットアンドソサエティセンターのフェローです。

隠れる