在深度学习的神经网络图中,有一堆参数,这些参数分成了普通参数和特殊参数,其中特殊参数往往被称为超参数
超参数(hyper parameters),在某种程度上决定了普通的参数,并且是需要额外给出的
如下图
对于超参数的设置,由于设备的迭代和数据,网络各种因素的变化,超参数要不断改变,得到最优超参数,但系统的参数设定仍在研究