ＩＣＡはもしデータが非線形だった場合に対応できるものがないor計算コストが高い。
ってか非線形独立成分分析とかまだ研究途上だし。

あ、以前の2つの1次元ＳＯＭでダメなのは劣ガウスじゃないとダメって事。
そして、近いもの同士だとかなり抑制しあっちゃってまともに学習できないこと。
だと思う、多分。

というわけで、ＩＣＡをやめてベイジアンネットを先にやることに。
というより、ＢＥＳＯＭをＩＣＡなしで実装できないかな？と考える。

そもそもＢＥＳＯＭはNoisy-ORを前提にしてる。
つまり親ノードに対する子ノードの確率がほとんど０で一つだけが１というもの。

このＮｏｉｓｙ-ＯＲがなければＩＣＡはいらないんじゃないか？
ベイジアンネットとして正常に働かすために確率変数を独立にするってのもあるだろうけど、
ベイジアンネットの確率変数って独立である必要あったっけ？

これは子ノードの量が多すぎるからってことで導入されてるんだけど、
ほんとうに親対子が１対１で対応していていいのだろうか？

せっかくＳＯＭを随所に使ってるんだからここでもＳＯＭ使えばいいのでは？
ってことで、１次元ＳＯＭで親子ノードの対応をあらわすことにした。
1次元ＳＯＭの各ユニットが表の行or列を表す、というわけ。

強化学習で状態行動対を学習してるけど、ＳＯＭでこれを学習するってどうするのだろうか？
むむむ、1つの子ノードの行動だけじゃなくて、いっそ全子ノードの次状態を表せばいいんじゃない？
そうすれば状態遷移表って事になって、確信伝播も使えそう。
ん？じゃあＣＰＴと結合できるんじゃない？

ってことで実装開始。
１次元ＳＯＭ、ＣＰＴ学習用競合学習、テスト用倒立振子モデルが完成。

実装途中に、あれ？これって状態遷移表がＨＭＭだったらほとんど階層型ＨＭＭじゃない？
とか思った。まぁ確率変数の出力をＳＯＭで学習してるって違いはあるけど。

で、研究室のゼミで発表してみると・・・出るわ出るわ、ボロの嵐。
そもそもＣＰＴの概念の考え直しを迫られた。

あーそうだよねー親ノードと子ノード間違えてたよーあははははｈ。
また考え直しorz

[0回]