内容纲要

欢迎转载,作者:Ling,注明出处:深度学习:原理简明教程04-神经网络加强

 

前面博客主要介绍了如下结构

dl_04_001

具体结构如下

dl_04_002

它经过了一个神经元,该神经元中包含了线性运算和非线性激活

 

现在我们将其扩展到更多的神经元,让隐含层节点数目增多。

对于一个实例:

dl_04_003

该图最先给出了网络结构

输入层:x1,x2,x3

隐含层:3个神经元,每个神经元都有线性计算和非线性激活

输出层:一个神经元

之后是前向计算以及前向计算细节。这是一个两层神经网络(一般层数=隐含层+输出层)

 

对于多个实例

dl_04_004

多个实例前向传播

dl_04_005

多个实例反向传播:BP算法

dl_04_006

每个梯度详细计算方法

dl_04_007