米軍は、自律型機械が自分たちを説明することを望んでいます

インテリジェンスエージェントと軍事工作員は、大量のデータを解析し、増大する自律システムの兵器を制御するために、機械学習に大きく依存するようになる可能性があります。しかし、米軍は、これがアルゴリズムを盲目的に信頼することにならないようにしたいと考えています。

新しい技術を探求する国防総省の一部門である国防高等研究計画局（DARPA）は、人工知能にそれ自体を説明させることを目的としたいくつかのプロジェクトに資金を提供しています。アプローチは、説明を提供することを目的とした機械学習システムをさらに追加することから、設計による解明を組み込んだ新しい機械学習アプローチの開発にまで及びます。

私たちは今、このAIの本当の爆発を経験しています、とDARPAプログラムマネージャーであるDavid Gunningは、彼らの推論の説明を含むAI技術を開発するための努力に資金を提供していると言います。その理由は、主に機械学習、特にディープラーニングです。

ディープラーニングやその他の機械学習技術は、シリコンバレーを席巻し、音声認識と画像分類を大幅に改善し、法執行機関や医療など、間違いの結果が生じる可能性のある分野など、ますます多くの状況で使用されています。真剣になってください。しかし、ディープラーニングはデータのパターンを見つけるのに非常に優れていますが、それがどのように結論に達するかを理解することは不可能な場合があります。学習プロセスは数学的に非常に複雑であり、これを人が理解できるものに変換する方法がないことがよくあります。

ディープラーニングは特に解釈が難しいものですが、他の機械学習手法も難しい場合があります。これらのモデルは非常に不透明で、特にAIの専門家でない場合、人々が解釈するのは困難です、とGunning氏は言います。

ディープラーニングは、その信じられないほどの複雑さのために特に不可解です。これは、脳内のニューロンが入力に応答して学習するプロセスに大まかに触発されています。シミュレートされたニューロンとシナプスの多くの層にはデータのラベルが付けられ、写真で猫を認識するようになるまで、それらの動作が調整されます。しかし、システムによって学習されたモデルは、何百万ものニューロンの重みでエンコードされているため、調べるのは非常に困難です。たとえば、深層学習ネットワークが猫を認識する場合、システムが画像内のひげ、耳、さらには猫の毛布に焦点を合わせているかどうかは明確ではありません。

多くの場合、機械学習モデルが不透明であるかどうかはそれほど重要ではありませんが、これは潜在的なターゲットを特定しようとする諜報員には当てはまりません。説明が必要ないくつかの重要なアプリケーションがあります、とGunningは言います。

Gunningは、軍が無数の自律システムを開発しており、間違いなくディープラーニングなどの機械学習技術に大きく依存していると付け加えています。自動運転車は、空中ドローンとともに、今後数年間でますます使用されるようになり、それらはますます能力を発揮するようになるだろうと彼は言います。

説明性は、決定を正当化するためだけに重要ではありません。それは物事がうまくいかないのを防ぐのを助けることができます。猫の分類のために純粋にテクスチャに焦点を当てることを学んだ画像分類システムは、毛皮のような敷物にだまされる可能性があります。したがって、説明を提供することで、研究者はシステムをより堅牢にし、システムに依存している人が間違いを犯さないようにすることができます。

DARPAは、AIをより説明しやすくするためのさまざまなアプローチを追求している13の異なる研究グループに資金を提供しています。

資金提供のために選ばれた1つのチームは、米軍を含むさまざまな顧客向けのハイテクツールを開発している会社であるCharles RiverAnalyticsから来ています。このチームは、分類に最も関連していると思われる画像の領域を強調するシステムなど、説明を組み込んだ新しい深層学習システムを模索しています。研究者たちはまた、機械学習システムの動作をデータ、視覚化、さらには自然言語の説明でより明確にするコンピューターインターフェースを実験しています。

胡夏 資金提供のために選ばれた別のチームを率いるテキサスA＆M大学の教授は、この問題は、医学、法律、教育など、機械学習が採用されている他の分野でも重要であると述べています。何らかの説明や推論がなければ、ドメインの専門家は結果を信頼するつもりはない、とHu氏は言います。これが、多くのドメインエキスパートが機械学習やディープラーニングの採用を拒否する主な理由です。

隠れる