该结构的含义是,N X的输入在N W的权利之后执行线性叠加和∑XW以获取输出X1_0。因为它是感知的一层,所以该输出结果层的输出结果仅为一个x1_0(1表示层的第一层,0表示该层的0th);然后通过激活函数输出到O1_0,然后使用随机生成的值T。查找此t和输出O1_0的损耗值。
数学推导图中的E等于损耗,其中X1_0表示第一层的第一个直接输出。激活函数的输出后,激活了。对于单个层次感知机,随机初始化t以计算其损耗函数:
更新特定权重的数学推导过程如下:
其中,根据Sigmoid函数的指导数量和功能之间的关系:
因此,以下有关上诉的两个关键解释:
因此,对于单个层次感知到的机器结构,对于某个功率值的指导,由其连接的X0_J与输出o通过激活函数有关,其表达是:
代码测试
多层感知计算机的结构是,第一层中有(m)输出,而不仅仅是一个输出。
如图所示,n输入与M叠加的线性叠加,该线性构成了M输出的第一层。然后,这些M输出通过激活函数变成M非线性输出。这些输出和M随机生成的t数据构成损失函数损失。在多层感知机中,需要概括损失。
损失的数学推导的表达如下所示:
获得损失功能后,依次将更新到前面的每组重量。这是多层感知机优化的过程。
知道损失函数,现在多层次感知计算机中某个值W_J0的数学推导过程如下:
因此,对于多层感知到的机器结构,某个正确值WJK的指导,即对于X0_J连接和K组,控制第一个k的正确值,指南的结果是x0_j -jthe -jthe输入与激活函数的输出有关。表达是:
代码测试
可以从前两个部分得出数学推导。对于没有隐藏层的神经网络结构,某个权重的解决方案表达是:
但是,通常,神经网络不仅具有输入和输出层。通常,它包含一个多层隐藏层结构,如图所示:
其中,最左侧的X0_i表达式是第一层的输出,也可以将其视为J -Layer的输入
只需查看左半部分,其右值WJ_K可以使用从上一节得出的公式:
其中,因为与之连接的输入OJ_J是可以的,并且输出正常,因为OK所涉及的表达式可以表示如下:
找到J -Layer和K层的正确值更容易。
因为你知道
获取以上两个公式,您可以连续迭代到第一级,并实现整个神经网络结构的后传输计算。
功能优化示例需要优化功能:
原始:https://juejin.cn/post/7096081671786594335