Neural networks and deep learningHow the backpropagation algorithm works (日本語訳:逆伝播の仕組み) を読んで、多層パーセプトロン(ニューラルネットワーク)の誤差逆伝播法について ようやく理解したので、導出方法をメモ。

フィードフォワードに関しては多層パーセプトロンの出力値の計算(フィードフォワード) を参照のこと。

コスト関数

ニューラルネットワークのウェイトやバイアスをどのように調整したらいいかを 判断するために、学習パターンの入力値に期待される出力値とのずれを測る コスト関数 を導入する。

ここではひとまず入力に期待される出力と 実際の値の差の二乗誤差とする:

実際には学習パターン-教師データのペアは複数与えられて 全体の合計コストとする:

コストを最小化するために、ウェイトやバイアスをいじった時にどのように変化するかを知りたい。 それがわかれば、コストを減らす方向に少しずついじることによって 達成できる(うまくいけば)。

関数の傾きを得るには偏微分を使い、チェインルールで求める。

誤差逆伝播法(バックプロパゲーション)

ウェイトやバイアスを変化させた時にコストがどのように変化するかを調べるには、 コスト関数をウェイトやバイアスで偏微分して求める:

しかしこれらの偏微分を直接求めるのは難しいので、中間の変数として ニューロンへの入力を偏微分のチェインルールに用いる:

実際の計算は次のようなステップを踏んで行う:

  1. 出力層での教師データとの差から、変化量を求める
  2. 後段の層の誤差から、前段の層の変化量を計算する
  3. 各層の変化量から、ウェイトとバイアスでの変化量を求める

出力層から入力層に向かって誤差を伝播させて計算していくこの一連のステップを 誤差逆伝播法(バックプロパゲーション)という。

1. 出力層での誤差

コスト関数に対する、出力層のニューロンへの入力での偏微分をと置く。 偏微分の中間変数としてを導入して計算する:

の場合同じ層の別のニューロンだから、と無関係なので

よっての時だけとなる。 定義よりなので、 となり、

から、

となるので、

ベクトル表記で書くと、

記号はアマダール積といい、ベクトルの各要素ごとの乗算を表す演算子。

2. 中間層での誤差

出力層以外の、中間層の誤差は後の層の誤差から求めることができる:

(44)を(42)に代入して:

ベクトル表記で書くと、

3. バイアスでの偏微分

ここで なので、

となる。

ベクトル表記だと、

4. ウェイトでの偏微分

ここで

なので、

となる。

ベクトル(マトリクス)形式だと、

学習の適用

すべての層のウェイトとバイアスに対するコスト関数の偏微分が求まったので、 ある学習率を設定して、コストを減らす方向に変更してやる(確率的最急降下法):

ベクトル表記だと: