211service.com
金融界はAIのブラックボックスを開きたい
強力な機械学習手法は、近年、テクノロジーの世界を席巻し、音声と画像の認識、機械翻訳、その他多くのことを大幅に改善しています。
現在、これらの技術は、金融の世界を含む他の無数の業界を覆す準備ができています。しかし、進歩は重大な問題によって妨げられる可能性があります。これらの深層学習アルゴリズムがどのように決定に達するかを説明することはしばしば不可能です（AIの中心にあるダークシークレットを参照）。
CapitalOneの機械学習とデータイノベーションのバイスプレジデントであるAdamWenchelは、クレジットカードを誰に付与するかを決定するなど、あらゆる種類の機能にディープラーニングを使用したいと述べています。しかし、法律は企業にそのような決定の理由を見込み客に説明することを義務付けているので、それはできません。昨年末、Capital Oneは、Wenchelが率いる研究チームを設立し、これらのコンピューター技術をより説明しやすくする方法を見つけることに専念しました。
私たちの研究は、これらのはるかに高度で本質的により不透明なモデルを推し進めるときに、説明可能性の高い基準を維持できるようにすることです、と彼は言います。
ディープラーニングは、人間の知覚能力を模倣する強力な方法として、過去5年間に登場しました。このアプローチでは、データのパターンを認識するために非常に大規模なニューラルネットワークをトレーニングします。それは、ニューロンとシナプスが学習を促進する方法についての理論に大まかに触発されています。シミュレートされた各ニューロンは単なる数学関数ですが、これらの相互にリンクされた関数の複雑さにより、深いネットワークの推論を解くのは非常に困難です。
特定のシナリオでディープラーニングよりも優れているものを含む、他のいくつかの機械学習手法は、はるかに透過的です。しかし、金融業界に役立つ高度な分析を可能にするディープラーニングは、調査するのが非常に難しい場合があります。
一部の新興企業は、より透明性の高いアプローチを使用することを約束することで、既存のアルゴリズムの不透明性に関する懸念を利用することを目指しています（AIを利用したクレジットの計算式は、ローンの取得に役立つ可能性があります）。
この問題は、ディープラーニングがより一般的に使用されるようになり、規制当局がアルゴリズムの説明責任に注意を向けるにつれて、今後数年間でさらに重大になる可能性があります。来年から、その一般データ保護規則の下で、欧州連合は、そのアルゴリズムの1つによって行われた決定を説明できるようにすべての企業に要求する可能性があります。
この問題は、米国国防総省の研究を行っている国防高等研究計画局の注目も集めています。昨年、DARPAは、機械学習の不透明性を低減するためのアプローチに資金を提供する取り組みを開始しました（米軍は自律型機械に説明を求めています）。資金提供のために選択された13のプロジェクトは、アルゴリズムをより透明にするためのさまざまなアプローチを示しています。
ディープラーニングを使用して、人間の知覚能力を一致させるだけではないことを願っています。たとえば、クレジットカード会社は、信用履歴やその他の財務データを深いネットワークにフィードし、クレジットカードの支払いを怠る可能性のある人々を認識するようにトレーニングする場合があります。
キャピタルワンはまた、不正請求をより確実に自動的に検出する方法としてディープラーニングを検討していますが、同社はその理由を調べることができない場合、そのようなシステムを信頼することを警戒しています。私たちは厳しく規制された業界で事業を行っています、と彼は言います。社内だけでなく、なぜ意思決定を行うのかを人々に説明できる必要があります。そして、正しい理由で決定を下していることを確認してください。
ディープラーニングは現在非常に大きな流行語であり、コンピュータービジョンと自然言語処理は大きく進歩しています。 トレヴァー・ダレル 、DARPAからの資金提供のために選ばれたプロジェクトの1つを率いるカリフォルニア大学バークレー校の教授。しかし、[深層学習システム]は、内部で何が起こっているのかを理解するのが難しい場合があるため、批判されています。
DARPAプロジェクトでは、Darrellのグループは、複数のことを同時に学習できるより複雑なディープネットワークを含む、いくつかの新しいディープラーニングアプローチを開発しています。トレーニングデータに説明を含めるアプローチもあります。たとえば、画像のキャプションの場合、猫として分類された画像は、そのように分類された理由の説明とペアになります。同じアプローチを使用して、クレジットカードの請求を不正として分類することができます。これらすべてのことで、より解釈しやすい深いネットワークにたどり着くことができます、とダレルは言います。