昨天也提到超出線性能解決問題時,會需要使用到多層感知機(MLP)來處理這類問題,所以今天來介紹介紹一下ଘ(੭ˊᵕˋ)੭* ੈ✩‧₊˚

在FNN中,多層感知機(Multilayer Perceptron, MLP)能夠解決更為複雜的非線性問題。MLP 通過引入隱藏層和非線性激活函數,並使用倒傳遞演算法(Backpropagation)來優化網路的權重。

多層感知機的結構

多層感知機由以下部分組成:

每一層的神經元與下一層的所有神經元連接,每個連接具有權重,並且每一層都有偏置項。MLP 的目標是學習輸入與輸出之間的映射。

image.png

假設有 L 層網絡,則對於第 lll 層的輸入 $z^{(l-1)}$ 和輸出 $a^{(l)}$:

$$ z^{(l)} = W^{(l)} a^{(l-1)} + b^{(l)} $$

其中:

$$ a^{(l)} = g(z^{(l)}) $$

MLP 的訓練過程就是不斷調整 $W^{(l)}$ 和 $b^{(l)}$ 以最小化損失函數。


倒傳遞演算法