標準的なクックブックの機械学習では、長方形の行列を操作します。つまり、すべてのデータ ポイントに同じ数の特徴があります。すべてのデータ ポイントが異なる数の特徴を持つ状況にどのように対処すればよいでしょうか? たとえば、視覚的な分類を行いたいが、すべての写真の寸法が異なる場合、または感情分析を行いたいが、すべての文の単語の量が異なる場合、または恒星分類を行いたいが、すべての星の観測回数が異なるなど。
これらの不規則なサイズのデータから通常のサイズの特徴を抽出するのが通常の方法だと思います。しかし、私は最近、深層学習に関する講演に出席しました。講演者は、データから機能を手作りするのではなく、深層学習者が適切な機能を自分で学習できることを強調しました。しかし、入力層のサイズが固定されていない場合、たとえばニューラル ネットワークをどのように使用すればよいでしょうか。
深層学習について質問されているので、機能設計よりもエンド ツー エンド システムに関心があると思います。可変データ入力を処理できるニューラル ネットワークは次のとおりです。
1) プーリング層を備えた畳み込みニューラル ネットワーク。これらは通常、画像認識のコンテキストで使用されますが、最近では文のモデリングにも適用されています。(星の分類も得意な方だと思います)。
2) リカレント ニューラル ネットワーク。(時系列、シーケンス ラベル付けタスクなどのシーケンシャル データに適しており、機械翻訳にも適しています)。
3) ツリーのような構造に配置されたデータのツリーベースのオートエンコーダー (再帰オートエンコーダーとも呼ばれます) (文解析ツリーに適用できます)
アプリケーションの例を説明している多くの論文は、グーグルで簡単に見つけることができます。
一般的でないタスクについては、データの構造に基づいてこれらのいずれかを選択するか、これらのシステムのいくつかのバリアントと組み合わせを設計できます。