211service.com
ポッドキャスト：顔認識は、住宅や社会福祉へのアクセスを制御するために静かに使用されています
顔認識技術は、住宅プロジェクト、ホームレスシェルター、学校、さらには都市全体に展開されています。通常、多くのファンファーレや議論はありません。一部の人にとって、これは脆弱なコミュニティが社会サービスにアクセスするのを助けるための重要な技術を表しています。他の人にとっては、それはプライバシーの重大な侵害と人間の尊厳の侵害です。このエピソードでは、（マスクを着用している場合でも）ほぼどこでもあなたを識別できるテクノロジーが、規制や管理のための明確なプレイブックなしで展開されたときに生じる厄介な結果に対処する支持者、技術者、および反対者に話しますそれ。
私たちは会う：
- エリックウィリアムズ、デトロイトジャスティスセンターのシニアスタッフ弁護士
- Fabian Rogers、監視技術監視プロジェクトのコミュニティ擁護者
- Tech for SocialGoodの創設者であるHelenKnight
- Eyemetric IdentitySystemsの社長兼共同創設者であるRayBolling
- クライストチャーチコミュニティ開発公社のエグゼクティブディレクター、メアリーサンデン
クレジット
このエピソードは、Jennifer Strong、Tate Ryan-Mosley、Emma Cillekens、およびKarenHaoによって報告および制作されました。 MichaelReillyとGideonLichfieldが編集しました。
トランスクリプト
[TR ID]
強い： だから、私はニッカーボッカービレッジとして知られているいくつかの建物の隣のロウアーマンハッタンにいます。そこに地下鉄が頭上を走っているのが聞こえるかもしれません。したがって、歴史愛好家は、この場所を住宅の権利の発祥の地のようなものとして知っているかもしれません。賃貸住宅に関するニューヨーク市の最初の規制のいくつかは、テナント協会のためにここに存在するようになりました。これらの建物は、連邦政府が資金提供した最初の手頃な価格の住宅ユニットの1つでもありました。彼らは約90歳で、大恐慌後の新しい中産階級を支援するために建てられました。しかし、私がここにいる理由は、キーの代わりに顔認識をインストールしたニューヨーク市で最初の集合住宅の1つでもあるためです。そして、これも最近ではありません。ハリケーンサンディがこの地域を襲い、信じられないほどの被害をもたらし、ひどい洪水を引き起こしたのは約7年前のことです。そして、アパートがいくつかのアップグレードを受けたのはそれらの修理でした。これには、faceIDを使用するすべてのゲートでのこのキーレスエントリーシステムが含まれます。
そして、ご存知のように、誰かを騒がせる通常のコールボックスとそれほど変わらないように見えます。私は、彼らがどれほど簡単に見つけられるのか疑問に思いましたが、実際にはいくつかの理由で非常に簡単です。一つは、今は日が短いことです。そのため、ここは少し暗く、すべてのエントリポイントには、人々の顔を照らし、システムがそれらを検出しやすくするために、これらの非常に明るいスポットライトが照らされていると思います。もう1つは、この種の面白い小さなダンスです。アパートの建物に入ろうとしている人たちが、これらのカメラに近づくにつれて、身を乗り出して身を乗り出そうとしているようなものかもしれません。ここはかなり肌寒いです。だから私は彼らがもっと早くロックを解除するためのドアを手に入れようとしていると推測しています。
強い： この設定の問題は新しいものではありません。顔認識が白以外の顔ではうまく機能しないことがよくあることは十分に文書化されています…これが、一部の居住者がこの建物にアクセスするのに苦労している理由を説明しています。また、過去に非居住者の顔への扉の鍵を開けました。将来的には、このテクノロジーの使用が規制される可能性があります…しかし、今のところ、それがどのように、どこで使用されるかは、西部開拓時代のままです。私はジェニファー・ストロングです。FaceI-Dの最新のミニシリーズの一環として、住宅での使用と、さまざまな厄介な質問を取り上げます。
[SHOW ID]
[ からの音 グリーンライトアナウンス ：そして、プロジェクトグリーンライトデトロイトのこのエキサイティングな発表のために、今日はデトロイト公安本部に皆さんを歓迎します。]
強い： それは2016年でした…そして、米国でより物議を醸す監視プロジェクトの1つになるものの誕生。
[ からの音 グリーンライトアナウンス ：この都市の暴力レベルは受け入れられません。]
強い： 何十年もの間、ミシガン州デトロイトは、国内で最も暴力的な都市の1つに挙げられてきました。市長のマイク・ダガンです。
[ からの音 グリーンライトアナウンス ：しかし、私たちが別のことをしなければ、私たちは軌道を変えるつもりはありません....そして、この人が電話をかけてきたことを認識し、あなたが知らないような粒子の粗い画像がある場合、あなたはテレビで何回見ましたか？ 。それはあなた自身の兄弟かもしれません、そしてあなたはそのイメージからはわかりません...]
強い： そして、彼らは何か新しいことを試みました...警察と地元企業のコラボレーション..最新のテクノロジーを使って。
[ からの音 グリーンライトアナウンス ：...そして私達は言った..私達が志願したいくつかのガソリンスタンドに行き、あなたが雑誌を読むことができるほど明るくあなたのガソリンスタンドを周囲まで照らすという基準を設定したらどうなるだろうか。そして、そのような高精細カラーカメラを設置し、インターネット接続を導入すると、警察本部でリアルタイムに監視します。]
強い： 言い換えれば...民間企業は、ライブビデオを警察本部にストリーミングする最高品質のカメラを設置するためにお金を払っています...そしてその見返りに、彼らは警察からより多くの時間とサービスを受けています。
[ からの音 グリーンライトアナウンス （マイク・ダガン市長）： …わかりました。画面に表示されます]
強い： 次に..彼は記者会見でこのシステムがどのように機能するかを人々に示します。
[ からの音 グリーンライトアナウンス （マイク・ダガン市長） ：しかし、私はあなたに可視性を見てもらいたい。 [すごい！]それは私たちの役員が現在リアルタイム犯罪センターの2階で見ているものです。彼らは一度に何十もの画面を見ることができます…つまり、これはどれほど違うのかということです。]
強い： そして、群衆の反応から聞くことができるように、このビデオの品質は完全なゲームチェンジャーです。
[ からの音 グリーンライトアナウンス （マイク・ダガン市長 ）：これは私たちが街中でやろうとしていることです…。そしてもう1つは...次に顔認識ソフトウェアが登場します。私たちは…やがて…これらのカメラに対して未払いの令状を一致させることができるようになるでしょう…それで、これは夜のように見えます。見てください。夜の10時。照明の明るさがわかります。そしてこれが、カメラの標準に加えて照明の標準を用意することが非常に重要だった理由です。]
強い： 現在、Project Green Lightのカメラは何百ものショップをカバーしています…また、公営住宅…学校…そして交通機関にも向けられています。しかし、それが5年前に始まったとき、それはほんの一握りのガソリンスタンドでした。
[ からの音 グリーンライトアナウンス ： それで、その触媒であることが中小企業の所有者として私たちに降りかかりました。デトロイトが素晴らしい街になって戻ってくるために…近所が戻ってくるからです。彼らは安全でなければなりません。公安はデトロイト市のすべての市民の権利であり、私たちはその一部であることを光栄に思います]
強い： 当時、プロジェクトグリーンライトには多くの支援がありました…多くの人がプロジェクトグリーンライトをコミュニティが集まっていると見なしていました…互いに協力し、警察と協力して街路を取り戻しました…
[ からの音 グリーンライトアナウンス ： プロジェクトグリーンライトは朗報です。警察だけでなく、コミュニティにとっても素晴らしいニュースです。私たちはそれを祝うべきです。私たちはそれをサポートする必要があります。拡張する必要があります。人々が私たちが近所のために十分にやっていない近所について話すとき、あなたはこのプログラムについて彼らに話す必要があります。これがデトロイトの精神です。これは私の仕事をとても簡単にしました、そして私が犯されている犯罪のビデオを持つことができれば…私はちょうど私の訴訟に勝ちました。 （拍手）]
強い： しかし、振り返ってみると、それはそれほど単純ではありません。
ウィリアムズ： プロジェクトグリーンライトがデトロイトでの犯罪の減少をもたらしたという証拠はまったくありません。
強い： エリックウィリアムズは、非営利の法律事務所…デトロイトジャスティスセンターのシニアスタッフ弁護士です。
ウィリアムズ： 最初の8つのステーションでの成功という点では、これらの8つのサイトでは、調査結果がはるかに明確ではないため、これらのサイトでの犯罪活動は前年比で大幅に減少しました。
強い： そして、ウィリアムズを含む活動家は、このプロジェクトに関して他の懸念を持っています。
ウィリアムズ： 皮肉なことに、プロジェクトグリーンライトは、実際にデトロイト司法センターに行く前に私が関わったものです。私は正しかった、私の感性はその存在そのものに腹を立てている。私はそのような警察の監視に問題があります。
強い： 彼の主な論点は？
ウィリアムズ： 特にProjectGreen Lightで私が抱えている問題は、透明性がまったくないことですよね？たとえば、顔認識技術は、人々が実際にそれについて何かを知る前に、ほぼ2年間プロジェクトグリーンライトと組み合わせて使用されていました。
強い： 彼は、大衆は何が起こっているのかを本当に理解していなかったと言います。彼らの出入りは、街の何百もの地点から警察本部にライブストリーミングされ、彼らの顔はスキャンされ、識別される可能性があります。とはいえ、ご存知のように、市は立ち上げの日から顔認識を使用する予定であることがはっきりとわかりました。また、これらすべてのカメラの場所を示す公開地図を提供します…そして、それらの存在を示す標識があり、多くの場合、緑色の光が点滅しています。しかし...官民パートナーシップについて話している地方自治体の役人に本当に注意を払っている人は何人いますか？そして、この文脈で同意は何を意味するのでしょうか？自宅、職場、学校、地元のお店がすべてこれらのカメラに囲まれている場合、選択肢はほとんどありません。
[ デトロイトでの抗議からの音： 詠唱]
強い： 夏の間…デトロイト市民と警察の間の緊張は表面に沸騰しました。そして…重要な要求の1つ？
[ デトロイトでの抗議からの音： これらは私たちの集合的な要求です…。 2つ目は…プロジェクトグリーンライトを取り除くことです…]
ウィリアムズ： たとえば、公営住宅での顔認識技術の使用を禁止する法律が必要です。現在のプロジェクトのように、グリーンライトは公立バスにあり、公立学校にあり、実際には貧しい人々が不釣り合いに正しい可能性が高い場所にあります。これが機能しています。ですから、法執行機関によるその使用のモラトリアムが他にないかどうかを確認したいと思います。
強い： しかし、顔認識は警察を介して公営住宅に忍び寄るだけではありません。テクノロジーの人気が高まり、取得コストが下がるにつれ、大小の家主は、セキュリティを強化する方法として、またはキーレスエントリのような最新のアップグレードと便利さを備えたプロパティを提示する方法として、テクノロジーをインストールしようとしています。顔認識は規制されていないため、使用頻度やその使用が効果的かどうかはわかりません。しかし、少なくとも当面の間、家主がドアのロックを解除するシステムをインストールするのを止めたテナントに会いました。 キーの代わりに顔 。
ファビアン： 私はアトランティックプラザタワーから来ました。家主が建物に顔認識をインストールしようとした場所
強い： Fabian Rogersは、ニューヨーク市のテナントおよびコミュニティの擁護者です。
ファビアン： ですから、私はここで、通常そうする時間もお金もない人々を代表して話しているのです。
強い： アトランティックプラザは、ブルックリンにある家賃が安定している集合住宅です。 2年前、彼は自分のメールボックスに建物の改良に関する通知を見つけました。
ファビアン： 家主が何を入れようとしていたのかを理解するために誰もがバックグラウンド調査を行ったとき、私たちは何を扱っているのかわかりませんでした。建物の日よけ、またはテラスを更新しようとしています。彼は正面に顔認識を入れようとしています。そのため、各建物に導入して設置する場合は、テクノロジーを使用する必要があります。
強い： 100人以上の他のテナントと一緒に…彼は反撃することに決めました。
ファビアン： テナントとして私たちが抱いていた懸念は、セキュリティや監視を強化することではありませんでした。私たちは、アパートと非常階段を除いて、これらの建物の隅々まで24時間365日のHD録画カメラを使用して、建物内ですでに過剰監視されていました。私たちは、これを私たちの生活状況を悩ます別のツールとして理解しました。これは、私たちの生活をより良くするのに役立つ新しいテクノロジーを歓迎するだけではありませんでした。それは決してそのような状況ではありませんでした。
強い： 彼らは自己組織化し、カメラに反対する管理会社に手紙を送りました。
ファビアン： 今日まで、私たちは返事をもらっていません。
強い： そして、これは彼らを悩ませました。それで彼らは法律事務所の助けを借りました…そして彼らは家主との会合を得ました。
ファビアン： このテクノロジーをインストールする目的は何ですか？たとえば、これの目的は何ですか？警察が召喚状を求めている場合はどうですか？そして彼らは彼らが建物の中に容疑者を持っていることに気づきます。さて、データベースとは何ですか、この技術アクセスは何ですか、それは何を共有しますか？何が節約できますか？どのように節約しますか？誰にデータを提供しますか？そして、そのようなもの、これらの倫理的な質問とロジスティックな質問のすべて...彼らはそれに頭を包みさえしました。彼らは、私たちがスタートアップ企業からいくつかの新しい技術を手に入れたように、ちょうど巻き込まれました。より高い家賃を払っても構わないと思っている新しいテナントを獲得できるように、それを実装してみたいと思います。
強い： 最終的に、カメラはインストールされませんでした。しかし、それは問題が解決したという意味ではありません。このようなセキュリティプロジェクトは、米国住宅都市開発省から資金提供を受ける可能性がありますが、FaceIDが使用されるかどうかやその方法は追跡されません。そして、家主はそれで彼らが望むことをほとんどすることができます。
ファビアン： そして、それはただ怖いです。繰り返しになりますが、これはすべて、法律がないために起こります。私は技術革新に固執しているわけではありません。それは私がここで言っていることではありません。私が言っているのは、私たちが新しいテクノロジーを使用している状況、つまり、社会に普及し、展開されている状況に疑問を投げかける必要があるということです。彼らは本当に倫理的ですか？彼らは私たちが持っているローテクソリューションよりも本当に優れていますか？テクノソリューション主義は常に、目前の問題への、そして住宅のための答えであると私は個人的には思いません。
強い： 下院と上院の前に、連邦政府によって財政的に支援されている住宅でのアイデンティティ技術の使用を一時停止する法律があります。これは、住宅法に対する生体認証の障壁なしと呼ばれています。ニューヨーク市はまた、生体認証データ、住宅、家主に関する独自の規則を考案することを検討していますが、全面的な禁止が懸念されています。私たちが出会った、ホームレスに住宅を提供する数人の人々を含みます。
騎士： 私たちは、信頼を持っていないが助けを必要としている人々に奉仕し、支援する方法のカテゴリー全体を失っていると思います。
強い： Helen Knightは、非営利団体と協力するCandianスタートアップの創設者です。それは社会的善のドットc-aのための技術と呼ばれています。彼女は、脆弱なコミュニティを支援するためのFaceI-Dの強力なユースケースがあると主張しています。
騎士： 彼らは犯罪の犠牲者です。彼らは最近彼らの家から追い出されました。彼らは危機的な状況にあり、運転免許証を持っていないことは完全に合理的です。パスポートを持っていません。いかなる形式の写真IDも持っていません。彼らは今日助けを必要としています。だからあなたはそれらを背けることはできません。あなたはそれらを背けるべきではありません。意図は彼らにサービスを提供することです。
強い： しかし、それを効果的に行うには、避難所は、サービスを利用しているさまざまな人々の数と、それらの人々が誰であるかを示すことができる必要があります...それが彼らの資金調達方法です。また、人々を社会福祉やその他のプログラムに結び付ける方法でもあります。
騎士： 現在のところ、危機的状況の真っ只中にいる人が、システムを介した彼らの旅が何であったかを特定し、彼らがどこにいたかを確認する実際の方法を持たずに、彼らの正確な必要性を明確にする責任があります他の施設やフードバンク、あるいは医療プログラムに、それはただ、あなたが私の人生のトラウマについて何度も何度もあなたに話す前に立っているだけです。そして、私が家を手に入れることになる魔法の言葉を言うことを願っています。
強い： 彼女は、カルガリー市のホームレスシェルターにこのテクノロジーを使用するよう指示しました...そして、利用可能なすべての識別方法には問題があると彼女は言います。
騎士： そのため、指紋認証を10年以上使用していた施設があり、大部分はうまく機能しています。避難所の人によっては、完全には機能しません。汚れた指では機能しない冷たい指では実際には機能しません。損傷した指には機能せず、失われた指には機能しません。
強い： また、IDに誰かの指紋を使用する際の問題は、それらが機能するかどうかだけでなく、さらに深くなります...
騎士： 誰かが施設に足を踏み入れて、「はい、絶対に入ることができますが、指紋をとらせてください」と言うことは、トラウマの情報ではありません。複数の問題があります。 1つは、画面が緑色に光っているということです。これは、妄想的な妄想を抱えている人にとってはトリガーであり、恐ろしいことです。おそらく、それに触れたくないのかもしれません。恐ろしいことは、病気の伝染である可能性がありますが、精神的な経験でもあります。過去に逮捕され、指紋をとられたことがある。彼らが施設に入るたびに、あなたは実際に同じトラウマを繰り返しています。
強い： 彼女はまた、RFIDを表すR-F-I-Dを搭載した追跡デバイスも試しました。そして、スキャナーが人の目を読み取る虹彩認識を試しました。しかし、最終的には、彼女は顔認識が機能したものであることに気づきました。
騎士： だから、ええと、顔認識は本当に可能で利用可能な唯一のものです、ええと、常に。 …// SO顔認識は、受動的であり、それらに触れず、より迅速にキャプチャでき、送信のリスクがないという点で、感情的に優しいです。そこで、私は、顔認識の適用範囲が拡大するのを見たいと思っています。なぜなら、それは、トラウマ的な生活を送った人々にできる最も親切なことであり、それでも彼らが誰であるかを知っており、その方法で彼らを助けることができるからです。彼らは助けられる必要があります。
ボリング： それはあなたの写真ですか？
強い： ああ、そうです。はい、それが私のLinkedInです。
ボリング： ですから、私がソフトウェアに登録したLinkedInから撮った写真を利用して、マスクを着用した通常のWebカメラを利用していることを特定したと思います。私はあなたを特定することができました。
強い： わお。わお。それは、マスクとフードとヘッドホン、そしてここで私の顔の周りにある他のものを持っている私です。
ボリング： こんにちは、私の名前はレイボリングです。私はアイメトリックアイデンティティシステムの社長兼共同創設者です。
強い ：私たちは街の外にいて、彼は私に彼のソフトウェアの概要を教えてくれます。彼の会社は、指紋、虹彩スキャン、そして今では顔認識機能を備えたアプリケーションを作成して、ホームレスの避難所やフードバンク、公立学校など、建物に入るときに誰かを識別します。
ボリング： COVIDの結果として、このテクノロジーへの関心が高まっています。非接触型で物事を行うことができる必要がありますが、それでも人を適切に識別できる必要があります。ええと、しかし、ある意味でそれを行います。ええと、それは転送を含みません、あなたが知っている、私たちの訪問者管理システムは、カードまたはIDの交換があるときに誰かに運転免許証を渡すように頼むでしょう、ええと、あなたは潜在的に非接触型を利用して細菌を転送する可能性があります顔認識または虹彩の方法それは、ええと、転送や詐欺、または、ええと、あなたが知っている、プラスチックの物理的な部分の情報を必要としないものです。
強い： このショーで話し合った他の顔認識システムは、インターネットから撮影した写真の膨大なデータベースの上にあります。しかし、これではありません。
ボリング： はい、お客様は、当社のシステムの1つを購入またはインストールするときに、スタッフは空のデータベースから始めています。彼らは、システムの登録に積極的かつ積極的に参加している既知の人々と一緒にデータベースを自分で構築します。彼らはまた、彼らが認められたときに積極的に関与しています。
強い： 実際には、このように機能する可能性があります...
ボリング： 通常、学区からすべての学生またはスタッフの輸入を受け取ります。そして、私たちは彼らのすべての情報を持っています。私たちの最初の試みは、既存の写真である写真から全員を登録しようとすることですが、それらは高品質である必要があります。通常、学校のポートレート写真はうまく機能しますが、照明や髪の毛が原因で、システムに直接登録するために、その個人の写真を撮り直す必要がある場合があります。
強い： それで …。
ボリング： 学生たちは、Webカメラを備えたMicrosoftSurfaceタブレットに近づきます。彼らはその前に立ち、学校にサインインします。 …
強い： そして、他のオプションよりも効率的だと彼は言います。
ボリング： ...学区にとって重要なのは、出席に基づいて州から払い戻しを受けるためです。したがって、彼らはその日に現れた子供たちの出席を確認するための生体認証手段を持っています。また、学生が友人のIDカードを借りたり、持って行ったりしてチェックインすることもできなくなりました。
強い： 彼のクライアントの1つは、Christ Church Community DevelopmentCorporationです。ニュージャージー州バーゲン郡のホームレスに避難所、エンゲージメント、アウトリーチサービスを提供しています。彼らは彼の会社の指紋スキャナーを使用しており、今後数か月にわたって、サインインの別の方法として顔認識も追加する予定です。バイオメトリクスは、いくつかの大きな問題に取り組むために使用したより良いデータを収集するのに役立ちました
サンデン： 私たちは、退役軍人のホームレスと慢性的なホームレスの両方を終わらせた国内初のコミュニティです。
強い： メアリーサンデンはグループの常務取締役です。
サンデン： そして、それができた主な理由の1つは、収集した情報と、それを使用して一緒に働く人々を支援する方法にあります。
強い： この作品は、住宅と都市開発を監督する連邦機関から全国的に認められています。そして彼女は、彼らが収集する追加のデータは、彼らが時間の経過とともに傾向を追跡するのにも役立ったと言います。
サンデン： したがって、過去2年間で私たちが気付いたのは、ホームレスシステムにいる60歳以上の人々の大幅な増加です。たとえば、これは私たちが10年前に私たちの地域で経験したことではありません。つまり、突然、毎晩夕食に来る人の20％が60歳以上であるのではなく、突然30％になります。そして、それは1日か2日以上続きます。それから、何かが起こっているのを見て、それを調べて、その背後にある原因を突き止める必要があります。しかし、それはあなたに物事が変化していることを示すデータです。そして、あなたはその背後にある動機やその背後にある理由を理解するために個人的な仕事をしなければなりません。
強い： 現在…彼女は人々の体温を測定するカメラをテストしています…そして、クライアントが顔認識の追加を受け入れることがそれほど飛躍しないことを望んでいます。
サンデン： だからあなたは建物の中を歩き、それはあなたの温度を自動的にチェックします。そして、それはあなたの写真があります。それはあなたの写真を保存していません、しかしあなたはそこにいます、そしてそれはあなたの体温を伝えます、それはあなたの性別とあなたの年齢を間違って推測します、私たちはそれをだますのを楽しんでいます。私は先週、高齢者から中年の男性または女性に変わりました。ですから、それは一種の楽しみです...しかし、このパンデミックでは、人々がすぐに再び私たちの建物に入ると、彼らはそれが彼らを安全に保つことであると理解するので、彼らはそれを困難にするだろうとは思いません。 。人生は今でははるかに侵襲的であり、私たちはそれに慣れています。ええと、それは私たちがやろうとしている利点があると思います。私たちは起こったことを利用しようとしています。それで、あなたが知っているように、人々が彼らの健康について侵襲的な質問をされることに慣れているという事実。それを利用するだけです。そして、顔のレックは、温度スキャンシステムとそれほど変わらない、単なる別のものです。
強い： 次のエピソード…
ドニー・スコット： スポーツイベントに到着すると、車の認識や携帯電話からの共有に基づいて駐車場に案内される未来を見ることができます。駐車場から、最短の路線をご案内します。バイオメトリックが有効になっているため、ラインがすばやく移動することをご存知でしょう。
強い： 顔認識やその他の追跡システムが、スタンドやコートでのスポーツ体験をどのように変えているかを見ていきます。
マイク・ダウリア： これが意図しているのは、すべてのプレーヤーとボールの動きを1秒間に25回追跡することです。つまり、1つの典型的なNBAバスケットボールゲームの過程で考えることができます。これまで存在しなかった何百万ものデータポイントをキャプチャし、それらを使用して、その上に一連の製品やエクスペリエンスを構築することができます。スポーツの見方や交流の仕方を本当に変えます。
強い： このエピソードは、私、Emma Cillekens、Tate Ryan-Mosley、KarenHaoによって報告および制作されました。 MichaelReillyとGideonLichfieldが編集しました。聞いてくれてありがとう、ジェニファー・ストロングです。
[TR ID]