-
加入矩阵维度
查看全部 -
输入->隐含->输出->结果值
查看全部 -
:=的意思是同步更新
阿尔法是学习速率
查看全部 -
什么是梯度下降?
通过一种渐近式的方式,来调整整个函数的形态
在这里决定函数样子的就是w和b,当然已经确定了激励函数的情况下
找到一个适合的w和b值:先正向计算一个y值,此时w和b是初始值,此y值和真实的y值会有差异,差异通过损失函数反馈出来,然后通过损失函数对w和b进行求导,可以得出损失函数的极小值,在求极小值的过程中调校w和b,在取得的损失函数极小值时的y值就和真实的y值差异最小。
查看全部 -
全部训练损失:单次训练的加和平均化
查看全部 -
学习值与原始值之间的差异性
y^是学习值,y是原始的标准值
查看全部 -
激励函数的作用是提供规模化的非线性化能力。
三种激励函数:
Sigmoid。优点,整个区间内可导,缺点,非中心对称,在值非常大或者非常小时,变化不明显。
tanh。缺点,在值非常大或者非常小时,变化不明显。
ReLU。广泛使用的。
查看全部 -
逻辑回归是一种最简化的网络结构
查看全部 -
节点,层
和普通函数相比:
结构的顺序性
解决非线性问题,每一个神经元,将输入值进行线性组合,然后转化为非线性结果
查看全部 -
四大模块
网络结构 激励函数
损失函数 梯度下降
查看全部 -
神经网络主要功能:
查看全部 -
激励函数的作用是提供规模化的非线性能力
查看全部 -
理解逻辑回归是一种最简化的网络结构
查看全部 -
训练学习:网络结构,激励函数,损失函数,梯度下降
查看全部 -
神经网络
主要功能:分类识别 f(x) cat
分类:图像(自动驾驶),语音(语音助手),文本(新闻推送)
查看全部
举报