W zadaniu rozważany jest model liniowy
\(\displaystyle{ Y=X\beta+\varepsilon}\)
,gdzie \(\displaystyle{ Y \in \RR^n}\) jest zmienną objaśnianą, \(\displaystyle{ X \in \RR^{n \times p}}\) jest macierzą planu, \(\displaystyle{ \beta \in \RR^p}\) wektorem nieznanych współczynników oraz \(\displaystyle{ \varepsilon \in \RR^n}\) wektorem nieskorelowanych błędów, czyli \(\displaystyle{ \EE \varepsilon=0}\), \(\displaystyle{ Var \varepsilon=\sigma^2 Id}\).
Estymator \(\displaystyle{ \beta}\) metodą najmniejszych kwadratów jest postaci:
\(\displaystyle{ \overline{\beta}=(X^TX)^{-1}X^TY}\)
Załóżmy dodatkowo, że \(\displaystyle{ \varepsilon}\) ma rozkład \(\displaystyle{ N(0,\sigma^2Id)}\). Pokaż, że \(\displaystyle{ \overline{\beta}}\) jest estymatorem największej wiarygodności.
Jak to zrobić?