機械学習アルゴリズム¶
深層学習以外の古典的な機械学習アルゴリズムについて簡単に整理します。
ニューロンの概念¶
人工ニューロン（単層のニューラルネットワーク）をモデルにした機械学習アルゴリズムとして、パーセプトロンがあります。
複数の信号入力を受け取り、それぞれの信号についてニューロンが持つ信号毎の重みを掛けてから総和を算出し、閾値を超えるかどうかを決定関数によって2値に分類します。
パーセプトロン¶
人工ニューロンモデルにより、入力ベクトル $ \boldsymbol{x} = x_1, x_2, ..., x_m $ と、重みベクトル $ \boldsymbol{w} = w_1, w_2, ..., w_m $ 、閾値θ、インデックス0の重み $ w_0 $ および $ x_0=1 $ とすると 総和zと決定関数φによる分類結果が次の式で得られます。
- $ z=w_0x_0+w_1x_1+...+w_mx_m=w^{\mathrm{T}}\boldsymbol{x} $
- $ \begin{eqnarray} \phi(z) = \begin{cases} 1 & (z \geqq 0) \\ -1 & (z \lt 0) \end{cases} \end{eqnarray} $
学習段階では、訓練データ x を受け取り、重み w と組み合わせ2値出力を生成、この出力から予測誤差を計算し重みを更新していきます。