• 2025年8月19日 星期二

3.5多层神经网络

8 月 19, 2025

结构:

α111x112x2+b1(第一个神经元)

α221x122x2+b2(第二个神经元)

z1=φ(α1)(非线性函数)

z2=φ(α2)(非线性函数)

y=ω1z12z2+b3(第三个神经元)

展开y=(ω1ω112ω21)x1+(ω1ω122ω22)x2+(ω1b12b2+b3)

层与层之间不加非线性函数=>多层神经网络将会退化到一个神经元的感知器模型状态

加入非线性函数:阶跃函数

φ(x)={1(x>0); 0(x<0)

为什么?

如果非线性函数采用阶跃函数,那么三层神经网络可以模拟任何的非线性函数。

定理:三层神经网络可以模拟所有的决策面。

Avatar photo

李星海

简介: 2025-今 浙江农林大学 | 2022-今 广州白蓝碗蛋科技有限公司 | 2022-2024 广州商学院 | 2019-2022 广东工贸职业技术学院 | 服务宗旨:心始至客,行亦致远。