昨天也提到超出線性能解決問題時,會需要使用到多層感知機(MLP)來處理這類問題,所以今天來介紹介紹一下ଘ(੭ˊᵕˋ)੭* ੈ✩‧₊˚
在FNN中,多層感知機(Multilayer Perceptron, MLP)能夠解決更為複雜的非線性問題。MLP 通過引入隱藏層和非線性激活函數,並使用倒傳遞演算法(Backpropagation)來優化網路的權重。
多層感知機由以下部分組成:
每一層的神經元與下一層的所有神經元連接,每個連接具有權重,並且每一層都有偏置項。MLP 的目標是學習輸入與輸出之間的映射。
假設有 L 層網絡,則對於第 lll 層的輸入 $z^{(l-1)}$ 和輸出 $a^{(l)}$:
$$ z^{(l)} = W^{(l)} a^{(l-1)} + b^{(l)} $$
其中:
$$ a^{(l)} = g(z^{(l)}) $$
MLP 的訓練過程就是不斷調整 $W^{(l)}$ 和 $b^{(l)}$ 以最小化損失函數。