深度神经网络(DNN)为什么说其实没有人懂?-深度神经网络 nlp

2023-08-22 23:20:46

 

懂 == 解释。

如果觉得神经网络已经理论完备的话,给定一个dump出来的DNN模型,不妨回答以下几个问题:

网络的每一层起到了什么作用?如果上一个问题的回答仅仅是“它们帮助逼近ground truth”,那么为什么不再加一层?如果上一个问题的回答仅仅是“试验得到这个层数结果最好”,那如何证明?

事实上,这是learning theory的范畴,给模型寻找解释的可能,给模型估计出upper bound和lower bound,当我们说不懂的时候,也大抵是这个范畴。

对于一个神经网络,我们不仅给不出解释,甚至对于神经网络的upper bound,我们只能给出 \infty 这样显然毫无意义的结论。

遗憾的是,和某些其他理工科一样,深度学习的理论发展水平已经远远落后于实验发展水平,通俗地讲,就是我们已脱离了理论支撑,进入全靠“试”的“炼丹期”。


以上就是关于《深度神经网络(DNN)为什么说其实没有人懂?-深度神经网络 nlp》的全部内容,本文网址:https://www.7ca.cn/baike/70246.shtml,如对您有帮助可以分享给好友,谢谢。
标签:
声明