W zadaniu rozważany jest model liniowy
\(\displaystyle{ Y=X\beta+\varepsilon}\)
,gdzie \(\displaystyle{ Y \in \RR^n}\) jest zmienną objaśnianą, \(\displaystyle{ X \in \RR^{n \times p}}\) jest macierzą planu, \(\displaystyle{ \beta \in \RR^p}\) wektorem nieznanych współczynników oraz \(\displaystyle{ \varepsilon \in \RR^n}\) wektorem nieskorelowanych błędów, czyli \(\displaystyle{ \EE \varepsilon=0}\), \(\displaystyle{ Var \varepsilon=\sigma^2 Id}\).
Estymator \(\displaystyle{ \beta}\) metodą najmniejszych kwadratów jest postaci:
\(\displaystyle{ \overline{\beta}=(X^TX)^{-1}X^TY}\)
Niech \(\displaystyle{ n>p}\) oraz \(\displaystyle{ \varepsilon}\) ma rozkład normalny \(\displaystyle{ N(0,\sigma^2Id_n)}\)
Rozpatrzmy rozkład \(\displaystyle{ QR}\) macierzy \(\displaystyle{ X}\) czyli
\(\displaystyle{ X=QR}\)
,gdzie \(\displaystyle{ Q\in\RR^{n \times p}}\) ortogonalna, \(\displaystyle{ R \in \RR^{p \times p}}\) górnotrójkątna. Korzystając z rozkładu \(\displaystyle{ QR}\) pokaż, że \(\displaystyle{ \left| \left| Y-X\hat{b}\right|\right|=\left| \left| \hat{Q}^TY\right| \right|}\)
,gdzie \(\displaystyle{ \hat{Q}}\) dopełnienie ortogonalne \(\displaystyle{ Q}\) do bazy ortogonalnej w \(\displaystyle{ \RR^n}\).
Jak to zrobić?