折りたたみを展開する

おぼえ書き、まとめ、発表など

メモ: 2020-04-13

時系列分析の勉強

K-L情報量で真のモデルが返す分布と候補のモデルの分布の差を調べたい。 真のモデルはわからないけど、候補のモデルの分布は調べられるのでモデルの候補の中からK−L情報量で調べた良いモデルは選べる。下の式の右辺が候補のモデル。

I ( g ; f ) = E Y log g E Y log f

で、候補のモデルのパラメタ  \theta の推定をする必要がある。それは、対数尤度 を使うことで計算できる。 1 n i = 1 n log f ( X i )

大数の法則によって、対数尤度に1/nしたものが大数平均尤度に収束する。

ただ、候補のモデルの推定で使ったパラメタをつかって平均対数尤度も推定してしまうのでバイアスがかかってしまう。 このバイアスを評価して補正する指標としてAIC(An Information Criterion)が出てくるのだった...

メモ: これがよくわからん... →候補のモデルの推定で使ったパラメタをつかって平均対数尤度も推定してしまうのでバイアスがかかってしまう