資料內(nèi)容：
2.2神經(jīng)?絡(luò)的訓練
2.2.1前向傳播（ForwardPropagation）
介紹完神經(jīng)?絡(luò)的?致結(jié)構(gòu)，我們就已經(jīng)對前向傳播這件事有?定的了解了！?張圖?變成784維向量
輸?給神經(jīng)?絡(luò)的輸?層的784個神經(jīng)元們，?后接下來的第?層隱層根據(jù)它的784*16個權(quán)重和16個
偏置，產(chǎn)?了16個新的輸出，送給了下?個隱層；下?個隱層則繼續(xù)根據(jù)16*16個權(quán)重和16個偏置，
輸出16個標量給輸出層。最后，輸出層在根據(jù)??的10*16個權(quán)重和10個偏置，輸出10個數(shù)字。在神
經(jīng)?絡(luò)的設(shè)計中，我們往往希望輸出層輸出的是?個概率分布函數(shù)，每個值都為正，?總和為1（總和
為1?般選擇softmax，因為softmax的輸出就是0-1的區(qū)間）；然后對于值最?的?個神經(jīng)元對應的內(nèi)
容（在上?的例?中是數(shù)字），就是我們的輸出。這就是前向傳播。
前向傳播（ForwardPropagation）是?種在神經(jīng)?絡(luò)中進?信息傳遞的過程，它是神經(jīng)?絡(luò)訓練的
第?步。在前向傳播中，輸?數(shù)據(jù)通過神經(jīng)?絡(luò)的多個層（包括輸?層、隱藏層和輸出層）按照預定
的權(quán)重和偏置進?計算，從輸?層傳遞到輸出層，最終得到神經(jīng)?絡(luò)的預測結(jié)果。
2.2.2梯度下降（GradientDescent）
我們已經(jīng)搞懂了模型是怎么從輸?到產(chǎn)?輸出的，但我們真正要解決的機器學習問題在于，怎么讓機
器??找到這13002個參數(shù)，實現(xiàn)學習的過程？
也就是后期優(yōu)化權(quán)重的過程了。
