3‐05　5, 6層目のEXCEL化（続き） ●5層目もバイアスを1/8にする 　行列乗算の後はバイアス（128個）を加算しますが、この層もバイアスを1/8にします（理由はこれ）。図3‐47のように各セルをクリックすると数式を見ることができます。 図3-47　バイアスのレベル合わせ 　plusBias5の行でバイアスが加算されます（図3‐48）。 図3‐48　行列乗算の結果にバイアスを足す ●積和の後は8ビットシフト 　Relu5では正の数はそのまま、負の数は０になります。truncateでは図3‐49のように値を1/256とします（その理由はここ）。さらに31以下に収まるようリミッタが掛けられます。 図3‐49　ReLUからビットシフト、リミッタ ●推論においてDropout関数はスルーになる 　truncateはそのままDrop5となります（Dropoutは学習時のみ働く関数で、推論時はスルーとなるので）。 　Drop5は128個あり、これが5層目の出力、すなわち6層目の入力になります。Pythonを走らせた際にlay5out.csvが生成されているので比較してみましょう。 図3‐50　truncateをDropout関数にかけてDrop5。推論ではスルーとなる ●次は6層目のEXCEL化 　Drop5（6層目の入力）とW6（6層目の重み係数）が乗算されます（図3‐51）。 図3‐51　行列の乗算結果（6層目） ●道路標識の数が43なので43列 　W6は図3‐52のように128×43の行列になります（Pythonで生成したCSVをコピペ）。6層目も全結合型、入力が128個、出力が43個だからです（これ参照）。 図3‐52　これを乗算すると結果は43個になる 次のページへ 目次へ戻る