(3)交差負荷xの強さ。2x3x3=18条件となる。各条件あたりMCMCを4000回転バーンインしてから4000回転。選手入場!BSEM-SSP。すべての0とxにspile-and-slab事前分布を与えます。\(c^2_{jk}\)(slabの分散ね)は\(10^4\)とします。\mathbf{\Psi}\)には無情報事前分布を与えます。識別条件についてひとこと。本来なら\(q^2\)箇所を固定したいけど、このシミュレーションでは主負荷の\(q\)個を固定するだけでよさそうだったので、そうします。すべての0とxに\(N(0,0.01)\)を与えます。あとはBSEM-SSPと同じ。FBSってのは前向き後向きステップワイズの略。交差負荷がないモデルから出発し、MIが有意な交差負荷をひとつ追加して再推定するのを繰り返し、止まったらすべての交差負荷についてWald検定して有意じゃないやつを一つ削って再推定するのを繰り返す。RのMplusAutomationパッケージで実装しましたー。Scheffe型テストで前向き選択の略。[面倒くさいのでメモ省略]EFA。主負荷のみの行列をターゲットにして回転する。[力尽きたので丸ごとスキップ]結果。交差負荷のうち0とxを区別できたかどうか、ROC曲線を描いてみると、おおまかにいってBSEM-SSPとFBI-MIの成績がよい。FAとEFAはちょっと劣る。申し訳ないけどスキップ]実例[教員を対象にした横断質問紙で6因子モデルを推定するという話。パス]考察というわけで、CFAにおけるモデル選択を、spike-and-slab事前分布を使った一段階のベイジアン変数選択として解くという方法をご提案しました。ついでに導師MuthenらによるBSEM-RPを拡張したBSEM-RP-VPをご提案しました[ここのくだりはメモをスキップした]。BSEM-SSPは全体として、標本サイズと効果量が比較的に大きいときには他のアプローチより成績が良く、そうでないときには倹約的な負荷構造を提供しました。positiveも高い。両方考慮するとBSEM-SSPが優れている。モデル選択の不確実性を定量的に表現できるという利点もある。[...FSやEFAについての批評。中略...]今後の拡張:カテゴリカル変数への拡張。独自因子に共分散をいれる。spike-and-slabを別の状況で使う。潜在変数間の相関にいれるとか。広範なシミュレーション。因子数とか、モデルの誤指定があるときとか。[←これはホントにそうです。著者らのアプローチでは識別用に\(q^2\)個の負荷を固定しないといけないという点にちょっと引いてしまう。そこの箇所でしくじったら一巻の終わりなんじゃないかな][中略...]本研究で解決できたわけじゃないけど、BSEM-RPにはいくつか問題点がある。(1)BSEM-RPでは同じデータを使ってBSEMとCFAをやるわけで、そのぶんover-fittingが起きている(SEを過小評価している)はずである。データを分割してCVしたほうがいいのでは。標本サイズが下がって正確性が下がるけど。(2)一段階目(BSEM)で得たモデル選択の不確実性を二段階目(CFA)で使っていない。本研究では、BSEM-RMとBSEM-SSPではちょっと違った解が得られた。思うに、事前分布のちがいはデータに対する信念のちがいなのであり、どちらがよいかは状況による。くさくて途中から飛ばし読みになっちゃったけど、面白かった。読んでないのに申し訳ないんだけど、記録のため、疑問点を3点メモしておく。BSEM-SSPでは「どこに非ゼロの負荷があるか」の二値行列\(\mathbf{R}\)の事後分布が得られる。\(\mathbf{R}\)の不確実性を考慮した、負荷行列の\(\mathbf{\Lambda}\)の周辺的な事後分布が得られる。\tilde{\mathbf{R}})\)へと移行していくんじゃないかと思う。後者をMCMCサンプルからどうやって推定するのかがよく分からなかった。1)\)でいいの?いや、それは私がきちんと理解できていないだけかもしれないけど、でもやっぱり話の筋道としては、モデルを選んだんだから、選んだ\(\tilde{\mathbf{R}}\)のもとでCFAをやり直すべきなのではないかと思う。するとモデル選択の不確実性が表現できないというのはわかりますよ。そもそも分析が探索から検証へと進んでいくプロセスとは、不確実性をモデルの内側から外側(リサーチャーの責任範囲にある実質的推論)へと引き剥がしていくプロセスというか、リサーチャーがより多くの不確実性を実質科学的に抱きしめていくプロセスなんじゃないかと思うわけである。BSEM-SSPって、識別のために負荷をいくつか固定しないといけないので、やっぱしモデルを誤指定したときが怖いと思う。その点はやっぱりMuthen的アプローチのほうが有利なんじゃないかしらんその3。これは表現するのが難しいんだけど...著者のいうように事前分布とは信念の表現なので、spike-and-slabに対応した実質的信念がある場面ではそれが適切だし、そうでない場面では不適切なんだろうと思う。気になるのは、因子分析の文脈でspike-and-slabに対応した実質的信念を持つことがあるのか?という点である。回帰の文脈であれば、spike-and-slabで変数選択するというのは自然に感じられる。「この目的変数を説明するために必要な変数はきっと少数しかないはずだ、それがどれかはわからないけど」って思う場面は、確かにありますよね。「いずれの説明変数についても偏回帰係数は0の回りを散らばっているはず」と思うことはそうそうないですよね。ridge回帰のパラメータ推定値を実質的に解釈することは少ないんだと思う。ふつうridge正則化は推定上のテクニカルな事情のために行っているだけだ。CFAの場合はどうか。spike-and-slabってのは、「因子負荷行列にはきっとたくさんのゼロが埋まっている、それがどこかはわからないけど」という信念に対応する事前分布だと思う。いう実質的信念を持つ場面が、ちょっと想像できないのである。ある項目が少数の因子にしか負荷を持たないというのは、因子回転の背後にある最適化の原理(「わかりやすさ」の数理的表現)に過ぎず、ユーザが世界について持っている実質的な信念ではないですよね。Muthenらの事前分布は、回帰でいえばたしかにridge事前分布だけれども、「因子負荷行列のこことここはゼロだと思うんだけど、でも俺は時々間違えるんだだよね」という実質的信念に対応していると思う。それってすごく自然だよなあ、と感じられる次第である。