共计 713 个字符,预计需要花费 2 分钟才能阅读完成。
为什么要进行归一化处理,下面从寻找最优解这个角度给出自己的看法。
例子
假定为预测房价的例子,自变量为面积,房间数两个,因变量为房价。
那么可以得到的公式为:
\[y=\theta _{1}x_{1} +\theta _{2}x_{2} \]
\(x_{1}\) 代表房间数,\(\theta _{1}\)代表\(x_{1}\)变量前面的系数
\(x_{2}\) 代表面积,\(\theta _{2}\) 代表\(x_{2}\)变量前面的系数
首先我们祭出两张图代表数据是否均一化的最优解寻解过程。
未归一化:


我们在寻找最优解的过程也就是在使得损失函数值最小的theta1,theta2。
上述两幅图代码的是损失函数的等高线。
我们很容易看出,当数据没有归一化的时候,面积数的范围可以从0~1000,房间数的范围一般为0~10,可以看出面积数的取值范围远大于房间数。
影响
这样造成的影响就是在画损失函数的时候,
数据没有归一化的表达式,可以为:
\[ J=(3\theta _{1}+ 600\theta _{2}-y_{correct} )^{2}\]
造成图像的等高线为类似椭圆形状,最优解的寻优过程就是像下图所示:

\[J=(0.5\theta _{1}+ 0.55\theta _{2}-y_{correct} )^{2}\]
其中变量的前面系数几乎一样,则图像的等高线为类似圆形形状,最优解的寻优过程像下图所示:

转载自https://zhuanlan.zhihu.com/p/27627299
