日本語
Sign in
AI tools
トップQs
タイムライン
チャット
Loading AI tools
すべて
記事
辞書
引用
地図
Backpropagation through time
ウィキペディアから
Found in articles
回帰型ニューラルネットワーク
英語版)、パールマターらによって1980年代と1990年代初頭に開発された。 標準的手法は「通時的誤差逆伝播法(英語版)(
Backpropagation
through
time
、BPTT)」と呼ばれ、順伝播型ネットワークのための誤差逆伝播法の一般化である。誤差逆伝播法と同様に、BPTTはポントリャ
長・短期記憶
て、教師あり学習のやり方で訓練できる。訓練では、最適化プロセス中で必要な勾配を計算するための通時的誤差逆伝播法(英語版)(
Backpropagation
through
time
、BPTT)と組み合わせて最急降下法のような最適化アルゴリズムを使って、(LSTMネットワークの出力層における)誤差の微分
GPT-2
deeplearningbook.org/ 2021年3月14日閲覧。 ^ Werbos, Paul J. (1994). The Roots of
Backpropagation
: From Ordered Derivatives to Neural Networks and Political Forecasting