next up previous
次は: 2段ダイナミクス・ニューロンと直交射影行列型シナプス 上は: ニューロン及びシナプス・ダイナミクスの等価性と興味深い性質 ひとつ前は: ニューロン及びシナプス・ダイナミクスの等価性と興味深い性質

ニューロン及びシナプス・ダイナミクス

神経回路における情報処理は,ニューロン回路の状態を動的に変更する事を通して行なわれる.その動的変更には2つの側面がある:1つは,ニューロンが内部状態に応じて出力を出す事,もう1つは,シナプスの荷重を変更する事である.それら2つの過程をここでは単に「ニューロン・ダイナミクス」,「シナプス・ダイナミクス」と呼ぶ事にする.

ニューロン・ダイナミクスのモデルは次のように書ける:

  equation394

ここに, tex2html_wrap677 は離散時刻 tex2html_wrap678 におけるニューロンの (出力) 状態ベクトルで成分は tex2html_wrap679tex2html_wrap680 はシナプス荷重行列, tex2html_wrap681 はニューロンへの入力ベクトル, tex2html_wrap682 はニューロンの内部状態ベクトルである.また, tex2html_wrap683 である.この中で最も単純なモデルは, tex2html_wrap684 即ち tex2html_wrap685 と選んだもの (これを閾値ニューロン回路と呼ぶ) である.

シナプス・ダイナミクスは,離散時間の形式で書けば,

  equation415

となる ( tex2html_wrap686tex2html_wrap687 は定数).ここに, tex2html_wrap688 はシナプス荷重変更信号 (学習信号) であり,シナプス・ダイナミクスの定義に依存する.自己連想記憶モデルの場合,相関行列型シナプス荷重 tex2html_wrap689 が広く用いられているが,それは,記憶させたい tex2html_wrap690 次元ベクトル tex2html_wrap691 (成分は tex2html_wrap679 ) から構成される tex2html_wrap693 行列 tex2html_wrap694 を用いて

  equation425

と定義される (ここに, tex2html_wrap695 は行列の転置を意味する).この行列は,(2) 式で tex2html_wrap696 と置く事で逐次的に求める事ができる.その他の可能性としては,擬逆行列型,パーセプトロン型がある.擬逆行列型では, tex2html_wrap697 と置く事により, tex2html_wrap698 は直交射影行列 tex2html_wrap699 に収束する.ここに, tex2html_wrap700tex2html_wrap701 の擬逆行列で tex2html_wrap701 を用いて, tex2html_wrap703 と表わせる.この行列を用いれば,互いに一次独立なベクトルを (1) 式に閾値ニューロン回路に記憶させる (回路の平衡点にする) 事ができる.パーセプトロン型は tex2html_wrap704 と置いた場合で,これによれば互いに線形分離可能なベクトルを閾値ニューロン回路に記憶させる事ができる.

連想記憶の記憶容量について言えば,パーセプトロン型の性能が常に最も高い.擬逆行列型と相関行列型の関係は記憶させたいベクトルの統計的性質に依存する.つまり,記憶ベクトルの成分の tex2html_wrap679 に偏りがないならば擬逆行列型が勝るが,偏りが極端になると相関行列型が勝る.一方,記憶ベクトルの追加や削除については,相関行列型が最も単純である.相関行列型の場合本質的に追加/削除の対象となる記憶ベクトルのみを操作すればよいが,直交射影行列型やパーセプトロン型では記憶ベクトルを追加/削除する場合,記憶ベクトルをすべて再学習しなければならない.


next up previous
次は: 2段ダイナミクス・ニューロンと直交射影行列型シナプス 上は: ニューロン及びシナプス・ダイナミクスの等価性と興味深い性質 ひとつ前は: ニューロン及びシナプス・ダイナミクスの等価性と興味深い性質

Hiro-F. Yanai --- 1997年02月08日 (土) 16時44分12秒 JST