多層パーセプトロンの順方向(フィードフォワード)の計算に関して、 式が添字表記で書かれると全体像が見えづらいし、 ベクトル表記で書かれると各ベクトルやマトリクスの次元はなにか、 列ベクトルなのか行ベクトルなのかわからないので、 展開した形で書き下してみます。

フィードフォワードの添字表記

レイヤーのニューロンに流入する値の合計は、前の層のニューロンからの出力 にウェイトを掛けたものを足しあわせたものにバイアス値 を加えたもの:

それを活性関数で活性化された、ニューロンからの出力は:

とします。

ただし一番最初の入力層()の活性値は入力値とします()。

フィードフォワードのベクトル表記

ベクトル表記で書くと、

ベクトル, , , はすべて列ベクトル、 ウェイト行列は層のニューロンに対するウェイトを 行ベクトルとして並べたもの。

展開形

マトリクスやベクトルの成分まで明示すると、

例:3層での計算例

入力層、隠れ層、出力層の3層の場合の計算例を示します。 層ごとのニューロンの数はそれぞれ4, 3, 2とします:

展開して書くと、