为了账号安全,请及时绑定邮箱和手机立即绑定

循环网络 (RNN) 不会学习一个非常简单的函数(问题中显示的图)

循环网络 (RNN) 不会学习一个非常简单的函数(问题中显示的图)

婷婷同学_ 2021-07-08 13:10:47
所以我试图训练一个简单的循环网络来检测输入信号中的“突发”。下图显示了 RNN 的输入信号(蓝色)和期望(分类)输出,以红色显示。因此,每当检测到突发时,网络的输出应从 1 切换到 0,并保持与该输出相同。用于训练 RNN 的输入序列之间唯一发生变化的是爆发发生的时间步长。按照https://github.com/MorvanZhou/PyTorch-Tutorial/blob/master/tutorial-contents/403_RNN_regressor.py上的教程,我无法学习 RNN。学习到的 RNN 始终以“无记忆”方式运行,即不使用记忆进行预测,如以下示例行为所示:绿线显示了网络的预测输出。在这个例子中我做错了什么以至于无法正确学习网络?网络任务是不是很简单?我正在使用:torch.nn.CrossEntropyLoss 作为损失函数用于学习的 Adam 优化器具有 16 个内部/隐藏节点和 2 个输出节点的 RNN。他们使用 torch.RNN 类的默认激活函数。
查看完整描述

1 回答

  • 1 回答
  • 0 关注
  • 183 浏览
慕课专栏
更多

添加回答

举报

0/150
提交
取消
微信客服

购课补贴
联系客服咨询优惠详情

帮助反馈 APP下载

慕课网APP
您的移动学习伙伴

公众号

扫描二维码
关注慕课网微信公众号