循环神经网络 编辑
循环神经网络是神经网络的一种。单纯的RNN因为无法处理随着递归，权重指数级爆炸或梯度消失问题，难以捕捉长期时间关联；而结合不同的LSTM可以很好解决这个问题。
6
图片 0 图片
评论 0 评论
匿名用户 · [[ show_time(comment.timestamp) ]]
[[ nltobr(comment.content) ]]
相关
猜画小歌，是谷歌中国于2018年7月18日发布的微信小程序，内容与Google此前推出的网页游戏Quick, Draw!一致。在小程序中，用户绘制一幅日常用品的图画，Google AI需在指定时间内识别图像。Google用全世界5000多万个手绘素描的数据集训练循环神经网络，实现识别图像的功能。
霍普菲尔德神经网络是一种循环神经网络，由约翰·霍普菲尔德在1982年发明。Hopfield网络是一种结合存储系统和二元系统的神经网络。它保证了向局部极小的收敛，但收敛到错误的局部极小值，而非全局极小的情况也可能发生。霍普菲尔德网络也提供了模拟人类记忆的模型。
玻尔兹曼机是随机神经网络和循环神经网络的一种，由杰弗里·辛顿和特里·谢泽诺斯基在1985年发明。
双向循环神经网络将两个方向相反的隐藏层连接到同一个输出。通过这种形式的生成式深度学习，输出层可以同时获得来自过去和未来状态的信息。双向循环神经网络由Schuster和Paliwal于1997发明，BRNN的出现增加了网络可用的输入信息量。由于要求固定形式的输入数据，多层感知器和时间延迟神经网络并不灵活，而标准的循环神经网络具有“因果”结构，即当前的输出只能取决于当前和过去的信息，所以也具有一定的限制。相反，循环神经网络不要求其输入数据的形式，同时其输入数据可以包含未来的信息。
前馈神经网络，为人工智能领域中，最早发明的简单人工神经网络类型。在它内部，参数从输入层向输出层单向传播。有异于循环神经网络，它的内部不会构成环。
霍普菲尔德神经网络是一种循环神经网络，由约翰·霍普菲尔德在1982年发明。Hopfield网络是一种结合存储系统和二元系统的神经网络。它保证了向局部极小的收敛，但收敛到错误的局部极小值，而非全局极小的情况也可能发生。霍普菲尔德网络也提供了模拟人类记忆的模型。
长短期记忆是一种循环神经网络，论文首次发表于1997年。由于独特的设计结构，LSTM适合于处理和预测时间序列中间隔和延迟非常长的重要事件。
长短期记忆是一种循环神经网络，论文首次发表于1997年。由于独特的设计结构，LSTM适合于处理和预测时间序列中间隔和延迟非常长的重要事件。
长短期记忆是一种循环神经网络，论文首次发表于1997年。由于独特的设计结构，LSTM适合于处理和预测时间序列中间隔和延迟非常长的重要事件。
玻尔兹曼机是随机神经网络和循环神经网络的一种，由杰弗里·辛顿和特里·谢泽诺斯基在1985年发明。