从控制中的反馈角度理解循环神经网络

谁践踏了优雅 2022-04-02 03:53 215阅读 0赞

反馈是控制理论中最经典的思想，PID方法即基于此，下面是PID的结构图。

![在这里插入图片描述][20181225111857621.png]

下面是PID公式：

e = r − y e=r-y e=r−y

u ( n ) = K p e ( n ) + K i ∑ i = 0 n ( e ( i ) ) + K d ( e ( n ) − e ( n − 1 ) ) u(n)=K\_\{p\}e(n)+K\_\{i\}\\sum\_\{i=0\}^\{n\}(e(i))+K\_\{d\}(e(n)-e(n-1)) u(n)=Kpe(n)\+Kii=0∑n(e(i))\+Kd(e(n)−e(n−1))

*  反馈即是把当前输出回传到输入项，和下一时刻的输入共同决定下一时刻的输出，这里输入和输出的组合方式是通过做差得到误差项，然后通过误差项比例积分微分的组合得到控制量。
 *  对于PID控制器（controller）来说，被控对象（plant）是一个黑箱，它的模型是未知的，但可以根据输入得到它的输出，就可以通过PID，基于当前的误差，确定控制输入去改变输出直至误差减小为0。
 *  对于PID的计算，其实用到了之前的误差信息，也就是之前的输入和输出信息，它们都会在一定程度上影响当前的控制量。

![在这里插入图片描述][20181225111918557.png]

*  循环神经网络的关键在于循环二字，系统的输出会保留在网络里， 和系统下一刻的输入一起共同决定下一刻的输出，**循环**正对应控制理论中的**反馈**概念。
 *  我们知道，对于神经网络，它其实也是一个黑箱，我们只有输入和输出训练数据，我们要通过训练让它学会这样的输入输出规律，它才能够具有预测能力。
 *  循环神经网络区别于一般的前馈和卷积神经网络，是因为它能保留历史输入中的重要信息，可以刻画复杂的历史依赖，并和当前输入一起去决定下一个输出。

参考链接：[https://www.zhihu.com/question/37082800/answer/126430702][https_www.zhihu.com_question_37082800_answer_126430702]

[20181225111857621.png]: /images/20220402/113d4ac4c3c94eecbf8ad187664c11d5.png
[20181225111918557.png]: /images/20220402/290f5136297741b5b852398e85dc8d4b.png
[https_www.zhihu.com_question_37082800_answer_126430702]: https://www.zhihu.com/question/37082800/answer/126430702