211service.com
女性の黒人ジャーナリストや政治家は、30秒ごとに虐待的なツイートを送信されます
機械学習は、Twitterで女性やマイノリティを狙った嫌がらせ、虐待、トローリングのレベルを明らかにします。 2018年12月18日
マルテンビョーク|スプラッシュを解除
Twitterは有毒な場所になる可能性があります。近年、サイトでのトローリングや嫌がらせにより、多くの人々、特に女性やマイノリティにとって非常に不快で動揺する経験になっています。しかし、そのような悪用を自動的に特定して阻止することは、正確かつ確実に行うことは困難です。これは、AIの最近の進歩のすべてにおいて、機械は一般に、人間のコミュニケーションに有意義に対応するのに依然として苦労しているためです。たとえば、AIは通常、皮肉なメッセージや肯定的なキーワードをまき散らした偽装メッセージを見つけるのが難しいと感じています。
新しい研究では、最先端の機械学習を使用して、Twitterでの嫌がらせの規模のより正確なスナップショットを取得しました。その分析は、多くの人々がすでに疑うであろうことを確認します：女性とマイノリティのジャーナリストと政治家は、プラットフォーム上で衝撃的な量の虐待に直面しています。
カナダの企業と協力してアムネスティ・インターナショナルが実施した調査 ElementsAI は、黒人女性の政治家やジャーナリストが、同じ職業の白人女性よりも虐待的または問題のあるツイートで言及される可能性が84％高いことを示しています。
機械学習の人道的応用に焦点を当てたオフィスであるロンドンのElementAIの研究責任者であるJulienCornebiseは、それはただ腹立たしいことだと言います。これらの女性は、社会の仕組みの大きな部分を占めています。
ElementAIの研究者は、最初に、スパムを分類して不正なツイートを特定するために使用されるものと同様の機械学習ツールを使用しました。次に、研究者はボランティアに、事前に分類されたツイートとこれまでに見られなかったツイートを組み合わせて分類しました。虐待的であると特定されたツイートは、ディープラーニングネットワークをトレーニングするために使用されました。 Cornebiseによれば、その結果、虐待を非常に正確に分類できるシステムが実現しました。
このプロジェクトは、政治家やジャーナリストに送信されるツイートに焦点を当てていました。この調査では、2017年に英国と米国の778人の女性政治家とジャーナリストに送信された228,000件のツイートで、150か国からの6,500人のボランティアが虐待の分類を支援しています。
この調査では、英国議会、米国議会、上院の女性メンバー、およびデイリーメール、ギャルデム、ガーディアン、ピンクニュース、英国のサン、ブライトバート、米国のニューヨークタイムズ。
この期間に、この期間に778人の女性に110万件の虐待的なツイートが送信されたことがわかりました。これは、30秒に1回に相当します。また、これらの役割の女性に送信されたすべてのツイートの7.1％が虐待的であることがわかりました。研究の背後にある研究者はまた、ツールをリリースしました、 トロールパトロールと呼ばれる 、ツイートが虐待または嫌がらせを構成するかどうかをテストします。
ディープラーニングのアプローチは、悪用を発見するための既存の方法を大幅に改善しましたが、研究者は、機械学習やAIでは常にトローリングを特定するのに十分ではないと警告しています。 Cornebiseによると、このツールは人間のモデレーターと同じくらい優れていることが多いですが、エラーが発生しやすいということです。近い将来、人間の判断が必要になるだろうと彼は言う。
Twitterは、そのプラットフォームを監視するためにこれ以上何もしないことで広く批判されてきました。アムネスティ・インターナショナルでプロジェクトに携わったミレーナ・マリン氏は、同社は少なくともその取り締まり方法についてより透明性を高めるべきだと述べています。
Troll Patrolは、Twitterを取り締まったり、コンテンツを強制的に削除したりすることではありません、とMarin氏は言います。しかし、彼女は警告しました。Twitterは、機械学習を使用して不正使用を検出する方法について透明性を確保し、依存するアルゴリズムに関する技術情報を公開する必要があります。
この報告に応えて、Twitterの法務担当者Vijaya Gaddeは、虐待を定義する問題を指摘しました。 Gadde氏は声明のなかで、コンテンツを分類するための「問題のある」コンテンツの概念は、さらに議論する必要があるものであることに注意します。私たちはグローバルに施行可能なルールを構築するために一生懸命働き、プロセスの一環として一般の人々との協議を開始しました。