当前位置: 首页 > 网络应用技术

[3]感知机结构和反向通信推导

时间:2023-03-08 11:27:31 网络应用技术

  该结构的含义是,N X的输入在N W的权利之后执行线性叠加和∑XW以获取输出X1_0。因为它是感知的一层,所以该输出结果层的输出结果仅为一个x1_0(1表示层的第一层,0表示该层的0th);然后通过激活函数输出到O1_0,然后使用随机生成的值T。查找此t和输出O1_0的损耗值。

  数学推导图中的E等于损耗,其中X1_0表示第一层的第一个直接输出。激活函数的输出后,激活了。对于单个层次感知机,随机初始化t以计算其损耗函数:

  更新特定权重的数学推导过程如下:

  其中,根据Sigmoid函数的指导数量和功能之间的关系:

  因此,以下有关上诉的两个关键解释:

  因此,对于单个层次感知到的机器结构,对于某个功率值的指导,由其连接的X0_J与输出o通过激活函数有关,其表达是:

  代码测试

  多层感知计算机的结构是,第一层中有(m)输出,而不仅仅是一个输出。

  如图所示,n输入与M叠加的线性叠加,该线性构成了M输出的第一层。然后,这些M输出通过激活函数变成M非线性输出。这些输出和M随机生成的t数据构成损失函数损失。在多层感知机中,需要概括损失。

  损失的数学推导的表达如下所示:

  获得损失功能后,依次将更新到前面的每组重量。这是多层感知机优化的过程。

  知道损失函数,现在多层次感知计算机中某个值W_J0的数学推导过程如下:

  因此,对于多层感知到的机器结构,某个正确值WJK的指导,即对于X0_J连接和K组,控制第一个k的正确值,指南的结果是x0_j -jthe -jthe输入与激活函数的输出有关。表达是:

  代码测试

  可以从前两个部分得出数学推导。对于没有隐藏层的神经网络结构,某个权重的解决方案表达是:

  但是,通常,神经网络不仅具有输入和输出层。通常,它包含一个多层隐藏层结构,如图所示:

  其中,最左侧的X0_i表达式是第一层的输出,也可以将其视为J -Layer的输入

  只需查看左半部分,其右值WJ_K可以使用从上一节得出的公式:

  其中,因为与之连接的输入OJ_J是可以的,并且输出正常,因为OK所涉及的表达式可以表示如下:

  找到J -Layer和K层的正确值更容易。

  因为你知道

  获取以上两个公式,您可以连续迭代到第一级,并实现整个神经网络结构的后传输计算。

  功能优化示例需要优化功能:

  原始:https://juejin.cn/post/7096081671786594335