Regresja liniowa
-
- Użytkownik
- Posty: 1
- Rejestracja: 29 gru 2017, o 18:32
- Płeć: Kobieta
- Lokalizacja: Kraków
- Podziękował: 1 raz
Regresja liniowa
Dlaczego prosta regresji liniowej przebiega przez punkt wyznaczony przez średnie arytmetyczne X i Y? Niestety, wszędzie gdzie szukam spotykam się ze stwierdzeniem, że tak jest, a nie nie ma wytłumaczenia dlaczego. Czy ktoś umiałby mi to prosto wyjaśnić?
- leg14
- Użytkownik
- Posty: 3132
- Rejestracja: 5 lis 2014, o 20:24
- Płeć: Mężczyzna
- Lokalizacja: Radom
- Podziękował: 154 razy
- Pomógł: 475 razy
Regresja liniowa
Rozważmy model liniowy ze stałą (koniecznie!).
\(\displaystyle{ e = Y - Y'}\) (przez Y' oznaczam wartości dopasowane).
Przemnóżmy obie strony przez \(\displaystyle{ X^{T}}\) . Z założenia pierwsza kolumna macierzy \(\displaystyle{ X^{T}}\) składa się z samych jedynek, więc pierwsza współrzędna wektora \(\displaystyle{ X^{T}e}\) będzie równa \(\displaystyle{ n \cdot \overline{e}}\) gdzie \(\displaystyle{ n}\) , to wymiar \(\displaystyle{ e}\) . Z układu równań normalnych łatwo zauważyć, że \(\displaystyle{ X^{T}(Y -Y') = 0}\) . Zatem \(\displaystyle{ \overline{e} =0 \Rightarrow \overline{Y} = \overline{Y'}}\) . Załóżmy, że jesteśmy w sytuacji jednowymiarowej, czyli nasza hipoteza ma postać \(\displaystyle{ y = a_0 +a_1x}\) . Wówczas \(\displaystyle{ \overline{Y'} = \frac{a_0 + a_1 x_1 + a_0 +a_1 x_2 +...+ a_0 +a_1 x_ n}{n} = a_0 + a_1( \overline{x} )= \overline{Y}}\)
\(\displaystyle{ e = Y - Y'}\) (przez Y' oznaczam wartości dopasowane).
Przemnóżmy obie strony przez \(\displaystyle{ X^{T}}\) . Z założenia pierwsza kolumna macierzy \(\displaystyle{ X^{T}}\) składa się z samych jedynek, więc pierwsza współrzędna wektora \(\displaystyle{ X^{T}e}\) będzie równa \(\displaystyle{ n \cdot \overline{e}}\) gdzie \(\displaystyle{ n}\) , to wymiar \(\displaystyle{ e}\) . Z układu równań normalnych łatwo zauważyć, że \(\displaystyle{ X^{T}(Y -Y') = 0}\) . Zatem \(\displaystyle{ \overline{e} =0 \Rightarrow \overline{Y} = \overline{Y'}}\) . Załóżmy, że jesteśmy w sytuacji jednowymiarowej, czyli nasza hipoteza ma postać \(\displaystyle{ y = a_0 +a_1x}\) . Wówczas \(\displaystyle{ \overline{Y'} = \frac{a_0 + a_1 x_1 + a_0 +a_1 x_2 +...+ a_0 +a_1 x_ n}{n} = a_0 + a_1( \overline{x} )= \overline{Y}}\)