連続学習の繰り返しによって、再帰型神経ネットワークにおける効率的な相関除去を介して記憶効率が上昇する

Tomoki Kurikawa;....;Kunihiko Kaneko(2019.6, arXiv)[Repeated sequential learning increases memory capacity via effective decorrelation in a recurrent neural network]

理由

金子先生シリーズ

概要

神経系における記憶は、神経と外部入力下の学習ダイナミクスとの相互作用を介して形成される。単純な局所学習ルールを神経ネットワークに導入することによって、入出力マッピングの学習ステップを連続的に繰り返すことで記憶効率が劇的に増加することがわかった。この強化の起源は接続性における疑似逆相関の生成に起因する。これは組み込み記憶に対応する神経パターンを断続的に示す自発的な活性の出現と関係がある。各入力の適応下で自発的活性からの直接的な分岐によって、記憶の安定化が達成される。

雑記

KK先生は何でも知ってるなぁ