原さんのお仕事についてのコメント

千葉大学自然科学研究科 今野良彦

まず始めに、繰り返しになりますが、先行研究と原さんのお仕事の位置関係を概括します。

分散および共分散行列の推定問題を決定論の立場から考察する場合に大きくわけてふたつの流れがあります。それは S の情報にのみに基づく推定問題という見地と S だけでなく X の情報も用いた推定問題という立場です。 S の情報のみであれば、分散の推定の場合には、原さんの講演で用いられた Stein 損失またはエントロピー損失のもとでは、最尤推定量が許容的になります。しかし、共分散行列の推定問題（すなわち多変量版）を考えると、議論が非可換の世界になり、母数空間に推移的に作用する群が Gl_{p} 群だけでなく、その部分群である下三角群 G_{T}^{+} 群が存在し、このことを利用すれば、最尤推定量を改良する James-Stein 推定量が構成できることが知られています。さらに、非推移的な作用を考え、もはや母数に依存する定数ではない危険関数を部分積分の公式で評価することに James-Stein 推定量がさらに改良できることが知られています。 X の情報も用いて推定問題を考えると予備検定型の打ち切り推定量によって、最尤推定量が改良されることが Stein によってしめされています。一方、 X の情報も利用する推定問題をみると、分散の推定において、打ち切り型の予備検定推定量を考えることにより最尤推定量が非許容的になることが Stein によって示されています。すなわち、平均がゼロがどうかの予備検定をおこない、ゼロという仮説が採択されるならば、 X の平均をゼロとみて、 S と X を合算すれば、標本数を増やしたことと同じ効果でよりよい推定ができるわけです。このとき、危険関数を評価するために打ち切り型の不等式が利用されます。この結果を S の情報のみによる共分散の推定問題に対応する形で多変量に拡張したのが原さんお仕事と思います。そのためには、予備検定推定と打ち切り不等式というふたつのアイデアをを多変量に拡張する必要があるわけですが、多変量に拡張する場合には拡張はひとつだけではなく複数考えれることができるわけです。一次元の議論の拡張が一意ではないことが多変量解析におけるおもしろさや醍醐味になるとおもいますが、原さんのお仕事はそのおもしろさをうまくとらえたものとおもいます。もうひとつの多変量への拡張である Sinha-Ghosh の仕事を参照しながらそのおもしろさを打ち切り不等式と予備検定という点について簡単に観ていきたいとおもいます。さらに時間があるようならば、 4 章の共分散成分推定においては、 Kullback-Leibier 損失を考えることにより、問題を共分散行列の二標本問題に帰着し、共分散行列の同等性の予備検定というアイデアを用いて新しい推定量を原さんはご提案されたのですが、そのときに危険関数の評価に利用した不等式について簡単なコメントを述べます。

まずはじめに打ち切り不等式について観てみます。 p = 1 の場合には、

E [S|\frac{∥X∥^{2}}{S} ] ≥ (n + k) (1 + \frac{∥X∥^{2}}{S} )^{−1}

のようになります。原さんの講演にもありましたように、この不等式を多変量に最初に拡張したのが Sinha-Ghosh (1986) で、かれらの不等式は

E [Q′Q|Q^{−1}X] ≥ (n + k) (I_{p} + (Q′)^{−1}XX′Q^{−1})^{−1}

のような形になります。ただし、 S = QQ′ で W ∈ Gl_{p} です。一方、原さんの補題 2.1 は

E [T′T |T^{−1}X] ≥ (T̃′)^{−1}diag(n + k + p + 1 − 2i)T̃^{−1}, i = 1, 2, …, p

のように書けます。ここで、 S = T T′, S + XX′ = T^{∗}(T^{∗})′, T̃ = T^{−1}T^{∗} です。簡単にわかることですが、どの統計量を条件付きにしているかという議論をのぞけば、このふたつの不等式はトレースをとれば、一致します。では、なにが違うかというと Sinha-Ghosh の不等式は Gl_{p} 上に拡張したもので、一方原さんの不等式は G_{T}^{+} 上に拡張したものであるわけです。このふたつの群の不変測度は

\frac{dQ}{|Q|^{(p+1)/2}}  と\frac{Π_{1≤j≤i≤p}dt_{ij}}{Π_{i=1}^{p}t_{ii}^{i}}

ですから、この違いが積分を評価するときにきいてきてそれに対応した形できちんと押さえる定数が異なってくるわけです。したがって、上三角群に拡張すれば、おそらく

E [U′U|U^{−1}X] ≥ (Ũ′)^{−1}diag(n + k − p − 1 + 2i)Ũ^{−1}

のように書けます。ここで、 U はすべて上三角群で、 S = UU′, S + XX′ = U^{∗}(U^{∗})′, Ũ = U^{−1}U^{∗} です。ちなみに、この群の不変測度は

\frac{Π_{1≤i≤j≤p}du_{ij}}{Π_{i=1}^{p}u_{ii}^{p−i}}

です。確認はしていませんが、下三角群を上三角群に座標変換をする置換を考えれば、この式は簡単に得られるかもしれません。原さんのお仕事からわかったことは、おそらく、正値対称行列という母数空間に推移的に作用する作用群の不変測度に対応して、補題 2.1 のような不等式がえられるのではないでしょうか。このような場合を考えているかぎり、 Σ の影響をのぞけて、非心度行列に関する評価をおこなえばいいということです。しかし、推移的でない変換群を考えると話は異なって簡単にはいかないのでしょう。 3 章の終わりにある原さんのコメントのように「予備検定型の推定量のリスクは非心度行列のみに依存するだけでなく、 Σ の固有値にも依存する」議論が必要になるわけで、理論的に扱いがさらに難しくなるわけです。

つぎに、予備検定の議論です。平均ベクトルの仮説検定

H_{0} : μ = 0 v.s. H_{1} : μ ≠ 0

にたいしては、 X ∼ N(μ, σ^{2}I_{k}) であり、独立に S ∼ σ^{2}χ_{k} を観測しているならば、上の仮説を検定するために統計量として、

\frac{∥X∥^{2}}{S}

のようなものを使えばいいわけです。この検定統計量を利用した予備検定推定量が予稿の (4) 式の推定量になるわけです。この検定仮説問題を多変量に拡張したものを考えます。

H_{0} : M = 0 v.s. H_{1} : M ≠ 0

さらに、原さんの予稿にあるように、 X ∼ N_{p×k}(M, Σ ⊗ I_{k}) で、 S ∼ W_{p}(n, Σ) とします。もちろん、 X と S は独立です。この仮説検定問題に関して４つの不変検定がよく知られているわけです。 (i) Roy の最大固有値検定:

ch_{1}(XX′S^{−1}) > α_{1}

(ii) Lawley-Hotelling のトレース検定:

trXX′S^{−1} = ∑_{i=1}^{p} d_{i} > α_{2}

(iii) Pillai のトレース検定:

trXX′(S + XX′)^{−1} = ∑_{i=1}^{p} \frac{d_{i}}{1 + d_{i}} > α_{3}

(iv) 尤度比検定:

\frac{|S|}{|S + XX′|} = [Π_{i=1}^{p}(1 + d_{i})]^{−1} < α_{4}

ただし、 d_{1} > d_{2} > ⋯ > d_{p} は XX′S^{−1} の固有根とします。予備検定型推定量の多変量への拡張を考えるならば、自然な考え方として、これらの統計量を利用することです。実際、 Sinha-Ghosh は Gl_{p} 群へ拡張した多変量予備検定型推定量をとして、 Roy の最大固有値検定を利用したもの、すなわち、

δ^{SG} = \{ \begin{matrix}\frac{1}{n+k}(S + XX′) & ch_{1}(XX′S^{−1}) ≤ \frac{k}{n} すなわち、 H_{0} を採択 \\ \frac{1}{n}S & otherwise \end{matrix}

という推定量を考えています。ところが、原さんの提案された推定量はこれらの４つの不変検定統計量に該当するものを使っているわけではありません。そのために、原さんの提案された推定量は少し複雑な形になっています。そこで、たとえば、 Roy の最大固有値検定に対応する予備検定推定量を考えるならば、

Λ^{tr} = Λ1{λ_{1} ≤ 1} + I_{p}1{ otherwise }

とおき、推定量として、

δ = \{ \begin{matrix}T̃C^{∗}(T̃)′ & λ_{1} ≤ 1 すなわち、 H_{0} を採択 \\ T CT′ & otherwise \end{matrix}

のような推定量が考えられるわけです。ただし、この推定量では、 James-Stein 推定量を改良できないから、

Λ^{tr} = diag{min(1, λ_{i})}

なる複雑な打ち切り規則を採用されたのかもしれません。このようによくしられている不変検定量を利用した予備検定型推定量では、 James-Stein 推定量を改良できないということなのでしょうか？

つぎに、 4 章の共分散成分の推定問題で導出された不等式についてコメントを述べます。ここでは、多変量の場合ではなく、問題を易しくして、一変量の補題 4.1 の不等式を観てみます。これを具体的に書いてみれば、

E [S_{e}|\frac{S_{e} + S_{e,v}}{S_{e}} ] ≥ (mn − 1)\frac{S_{e}}{S_{e} + S_{e,v}}

となります。こうして、１次元の式を観てみますと、 2 章の (9) 式の不等式とはすこし異なるものに思えてきます。すこし、証明を考えてみます。モデルから一般性を失うことなく、 S_{e} と S_{e,v} は独立で、

S_{e} ∼ χ_{mn−m}^{2},  S_{e,v} ∼ σ^{2}χ_{m−1}^{2}  （ただし、 σ^{2} > 1）

としてよいことがわかります。

r = \frac{S_{e,v}}{S_{e}} , t = (1 + \frac{r}{σ^{2}} ) S_{e}

とし、変数変換

(S_{e}, S_{e,v}) ⟶ (S_{e}, r) ⟶ (t, r)

を考えれば、最終的に t と r は独立になり、 t ∼ χ_{mn−1}^{2} になることがわかります。したがって、

E [S_{e}|\frac{S_{e} + S_{e,v}}{S_{e}} ] = E [\frac{t}{1 + \frac{r}{σ^{2}}} |r] = \frac{1}{1 + r/σ^{2}} E(t) = \frac{mn − 1}{1 + r/σ^{2}}
≥ \frac{mn − 1}{1 + r} = \frac{mn − 1}{1 + S_{e,v}/S_{e}} = (mn − 1)\frac{S_{e}}{S_{e} + S_{e,v}}

となります。 p = 1 おける補題 4.2 は、

S_{e} ∼ σ^{2}χ_{mn−m}^{2},  S_{e,v} ∼ χ_{m−1}^{2}  （ただし、 σ^{2} < 1）

として、 S_{e} と S_{e,v} の役割を入れ替えて計算すれと、

E [S_{e,v}|\frac{S_{e} + S_{e,v}}{S_{e}} ] = E [\frac{t}{1 + \frac{r}{σ^{2}}} |r] = \frac{1}{1 + r/σ^{2}} E(t)

となり、補題 4.1 と 4.2 にでは、不等式の向きが逆になることがよくわかるわけです。この証明を観るかぎり、補題 4.1 および 4.2 の右辺の期待値は母数を残したかたちできちんと計算でき、最後に母数を評価することにより、得られるものであるような感じがしますが、可換の場合にできても、非可換の議論が同じようにできるとはかぎりませんので、証明は可換の場合の焼き直しというわけではないのかもしれません。可換の場合と同じように変換をしていけば、ウイシャトー行列を三角分解したものが母数行列の両脇からかかっているようなものにおそらくなるので、期待値を取るときにうまく計算ができないかもしれません。最後、予備検定型の推定量を考える足がかりとして、

H_{0} : Σ_{v} = 0 v.s. H_{1} : Σ_{v} ≠ 0

という仮説を考えていますが、これは

H_{0} : Σ_{v} = \frac{1}{n + 1}Σ_{e,v} v.s. H_{1} : Σ_{v} ≠ \frac{1}{n + 1}Σ_{e,v}

ということおもいます。この場合にも、 H_{0} のもとでは、 S_{e} + S_{e,v} ∼ W_{p}(mn − 1, Σ_{e}) になります。また、別の見方として、

H_{0} : Σ_{e} = Σ_{v} v.s. H_{1} : Σ_{e} ≠ Σ_{v}

のが自然なように思えます。すると、 H_{0} のもとで、

S_{e} ∼ W_{p}(mn − m, Σ_{e}), S_{e,v} ∼ W_{p}(m − 1, (n + 1)Σ_{e})

となり、

S_{e} + (n + 1)^{−1}S_{e,v} ∼ W_{p}(mn − 1, Σ_{e})

となるので、このことを利用して予備検定型の推定量を構成するほうが自然なように思えますが、これではうまくいかないということでしょうか？

以上がぼくの具体的なコメントですが、原さんのお仕事のなかには多変量解析が非可換の世界の議論であるということを非常にうまくとらえたおもしろさがあるとおもいます。以上で、ぼくのコメントを終わりたいとおもいます。