
如果以CNN结构下的图像分类为例,那么实际上满足训练目标的函数(从输入数据点集到输出点集的非线性映射)是不唯一的,这些函数的距离也并不一定是互为邻域,所以这个学习过程是可以抽象为通过梯度优化寻找一条具有特定长度的曲线,使得曲线连接函数空间(将所有映射看作一个流形)的一个起始点到一组可能的终点中的不确定的某一个点的过程。
所以这个过程并不保证收敛,也不保证收敛到某个特定函数,也很难会构成压缩映射从而导致不动点,训练严重依赖于网络结构和代价函数所共同定义的黎曼流形的曲率分布。
至于中间过程的意义,恐怕只能是当你构造的网络结构和问题内在的数据结构匹配的时候,中间过程可能会有好的物理含义。但是实际上结构不匹配的网络一样可能完成任务,这样的网络的中间过程就无法保证物理意义的合理性。比如用CNN来模拟流体特性的,只能是保证端到端的数据的可靠性,很难说网络的中间过程会对应流体在时间上的演化过程,CNN考察流体最大可能是通过尺度变换来拟合特定时间节点下的流体变化,更像一个空间频域的处理而不是时域处理,所以中间过程和流体力学规律没有对应关系。所以,找到中间过程有物理意义的网络的前提是我们对系统特性有充分的了解,在没有这个先验知识的条件下,刚好网络结构能体现出这些数据的内在特性的概率是比较低的。但是CNN在处理图像上是有这个特性的,这还是因为我们对图像特性太了解了,构造的网络和图像匹配的太好了。
