神经网络中为什么需要偏置bias?

By 陆勤 at 14 天前 • 0人收藏 • 18人看过


神经网络中需要bias参数。


解释如下:


一个简单的单输入单输出模型,如图1所示。x为输入,w为权重,活化函数取sigmoid函数,那么输出为y=sig(wx)。其中,权重w就是我们需要训练的模型参数。


image.png


通过程序模拟,不同的w,输出曲线都相交于一点(0,0.5)。输出曲线只能改变形状,不能挪动位置,网络分类的表现力大大受限。


image.png


现在添加bias后,网络结构图如下:


image.png


模拟得出的曲线如下:

image.png

总结:偏置量的作用是给网络分类增加平移的能力。


参考链接:

1 神经网络中偏置量的作用

登录后方可回帖

信息栏
数据人网是数据人学习、交流和分享的平台,专注于从数据中学习,努力发觉数据之洞见,积极利用数据之价值
Loading...