AIの研究者は、科学出版社が人種差別的なアルゴリズムの永続化を支援すると述べています

カテゴリー： 人工知能 投稿 6月23日

ニュース： アン 公開書簡 AI研究者の成長する連立から、科学出版社のSpringer Natureに、次の本に含める予定の会議論文を呼びかけています。 計算科学と計算知能に関するトランザクション 。 「画像処理を使用して犯罪性を予測するためのディープニューラルネットワークモデル」というタイトルの論文は、誰かが犯罪者であるかどうかを予測できるとされる顔認識システムを示しています。 オリジナルのプレスリリース 。これはハリスバーグ大学の研究者によって開発され、次回の会議で発表される予定でした。

要求： 主要なブラックAIの仕事を引用する 学者 、手紙は論文の科学的根拠を暴き、犯罪予測技術は人種差別主義者であると主張しています。また、次の3つの要求もリストされています。1）SpringerNatureが研究の公開の申し出を取り消す。 2）機械学習などの統計的手法を使用して犯罪性を予測し、そのような研究を奨励する上でのその役割を認める声明を発表すること。 3）すべての科学出版社が将来同様の論文を出版しないことを約束すること。月曜日にSpringerNatureに送られた手紙は、もともとMIT、レンセラー工科大学、マギル大学、AI NowInstituteの5人の研究者によって書かれました。数日のうちに、AI NowInstituteの共同創設者であるMeredithWhittakerや、 MITメディアラボ。

重要な理由： 手紙は特定の論文を強調していますが、著者の目標は、科学出版が研究者に非倫理的な規範を永続させるように促す方法に関する体系的な問題を実証することです。 MITの博士課程の学生で手紙の共著者の1人であるチェルシーバラバス氏は、これが人種科学が何度も出現しているのを見続ける理由です。出版社がそれを公開しているからです。このSpringerの作品の本当の重要性は、それがまったくユニークではないということです。AINowのポスドク研究員であり、別の共著者であるTheodoraDryerに反響しました。それは、長い間続いてきた問題と批評の象徴です。

スプリンガーの反応： その手紙に応えて、スプリンガーはその論文を出版しないだろうと言った。あなたが言及している論文は、Springerが議事録を公開することを計画していた次の会議に提出されたとそれは言った。徹底的な査読プロセスの後、論文は却下されました。ハリスバーグ大学も プレスリリースを取り下げた 、提起された懸念に対処するために、教員が論文を更新していることを述べています。ハリスバーグ大学と論文の共著者は、コメントの要求と元の論文のコピーの要求を拒否しました。書簡の署名者は、2番目と3番目の要求の実現を引き続き推進すると述べました。

全体像： ジョージフロイドの死が人種的正義を求める国際的な運動を引き起こして以来、AI分野とテクノロジー業界全体は、構造的人種差別を強化する上で彼らが果たした役割についての考えに直面しています。たとえば、6月8日の週に、IBM、Microsoft、Amazonはすべて、顔認識製品の終了または部分的な停止を発表しました。この動きは、 2年間のアドボカシー 研究者や活動家から、これらのテクノロジーとマイノリティコミュニティの過剰な取り締まりとの関連を実証するために。公開書簡は、AIにおけるより大きな倫理的説明責任に向けたこの動きの最新の進展です。

マギル大学のメディア、テクノロジー、民主主義センターのリサーチディレクターであるソーニャ・ソロムン氏は、この成長する運動に本当に貢献したかったと語った。特に私たちが窓の外を見て、現在米国と世界で何が起こっているかを見るとき、賭け金は非常に高いです。

アップデート： 公開後、Springer Natureは、「[論文]の公開が承認されたことはありません...最終論文を却下するというシリーズ編集者の決定は6月16日火曜日に行われ、22日月曜日に著者に正式に通知されました。六月。'