Czym jest estymator?

Procesy stochastyczne. Sposoby racjonalizowania wielkich ilości informacji. Matematyka w naukach społecznych.
PLrc
Użytkownik
Użytkownik
Posty: 236
Rejestracja: 21 cze 2012, o 19:40
Płeć: Mężczyzna
Podziękował: 42 razy

Czym jest estymator?

Post autor: PLrc »

Ze statystyki jestem kompletnie zielony - nie miałem takiego przedmiotu na studiach. Z tego co widzę tutaj (chociaż chyba nie wszystko jest tam dobrze opisane) to estymator przyjmuje za argument ciąg zmiennych losowych \(\displaystyle{ X_1, X_2, \ldots, X_n}\) i zwraca zmienną losową, czy tak? Np. estymator wartości oczekiwanej przyjmuje za argument ciąg zmiennych losowych \(\displaystyle{ X=(X_1, \ldots, X_n )}\) na tej samej przestrzeni probabilistycznej o takim samym rozkładzie i zwraca zmienną losową
\(\displaystyle{ T(X)=\frac{1}{n}\sum_{i=1}^nX_i,}\)
czy mam rację? Jeżeli tak, to dlaczego estymatory zapisuje się bardzo często (np. tu jak by to były liczby, a nie funkcje? ;>
squared
Użytkownik
Użytkownik
Posty: 1017
Rejestracja: 21 mar 2009, o 11:11
Płeć: Mężczyzna
Podziękował: 167 razy
Pomógł: 152 razy

Czym jest estymator?

Post autor: squared »

Estymator to pewna funkcja \(\displaystyle{ n}\)-argumentowa, gdzie \(\displaystyle{ n}\) to liczność tzw. próby losowej, czyli próbki.

Estymator dla konkretnej próby losowej zwraca nam konkretną liczbę, którą traktujemy jako wartość nieznanego parametru rozkładu zmiennej losowej.

Przykład: Masa czekolady produkowanej w fabryce. Załóżmy, że wiemy z jakim rozkładem masa jest np. normalnym, ale nie znamy parametrów tego rozkładu. Przybliżamy je sobie pewnymi estymatorami. Wartość estymatorów obliczami z pewnej próby losowej, czyli np. bierzemy sobie 30 czekolad i ważymy je.
PLrc
Użytkownik
Użytkownik
Posty: 236
Rejestracja: 21 cze 2012, o 19:40
Płeć: Mężczyzna
Podziękował: 42 razy

Czym jest estymator?

Post autor: PLrc »

Ale np. tutaj 78307.htm Regis próbą nazywa ciąg zmiennych losowych, czyli po "wstawieniu" jej do estymatora powinna wyjść też zmienna losowa, a nie liczba ;>
Awatar użytkownika
kp1311
Użytkownik
Użytkownik
Posty: 475
Rejestracja: 20 maja 2009, o 15:06
Płeć: Mężczyzna
Lokalizacja: Zarzecze
Podziękował: 36 razy
Pomógł: 49 razy

Czym jest estymator?

Post autor: kp1311 »

Zwykle rozważamy zestawienie zmiennych losowych \(\displaystyle{ [X_1,...,X_N]}\).
Próba losowa to konkretna realizacja tego zestawienia czyli \(\displaystyle{ [X_1(\omega),...,X_N(\omega)]}\), dla pewnego \(\displaystyle{ \omega \in \Omega}\). Jak wstawisz \(\displaystyle{ [X_1(\omega),...,X_N(\omega)]}\) do estymatora to dostajesz konkretną liczbę, jak wstawisz \(\displaystyle{ [X_1,...,X_N]}\) to dostajesz zmienną losową. squared Ci dobrze napisał.
PLrc
Użytkownik
Użytkownik
Posty: 236
Rejestracja: 21 cze 2012, o 19:40
Płeć: Mężczyzna
Podziękował: 42 razy

Czym jest estymator?

Post autor: PLrc »

kp1311 pisze:Jak wstawisz \(\displaystyle{ [X_1(\omega),...,X_N(\omega)]}\) do estymatora to dostajesz konkretną liczbę, jak wstawisz \(\displaystyle{ [X_1,...,X_N]}\) to dostajesz zmienną losową. squared Ci dobrze napisał.
Tak mi się wydawało, ale nie mogłem znaleźć w internecie potwierdzenia. Dziwna rzecz: w ogóle w internecie znajduję same bzdury na temat statystyki ;> Czy statystycy rzadko korzystają z internetu? ;>

A czym byłyby zmienne losowe \(\displaystyle{ X_1, X_2,\ldots, X_n}\) i czym byłoby zdarzenie elementarne \(\displaystyle{ \omega}\) w przykładzie z czekoladą, który podał squared? ;>
squared
Użytkownik
Użytkownik
Posty: 1017
Rejestracja: 21 mar 2009, o 11:11
Płeć: Mężczyzna
Podziękował: 167 razy
Pomógł: 152 razy

Czym jest estymator?

Post autor: squared »

PLrc pisze:Dziwna rzecz: w ogóle w internecie znajduję same bzdury na temat statystyki ;> Czy statystycy rzadko korzystają z internetu? ;>
Jeśli by się doszukiwać koniecznie przyczyny to leży ona w fakcie, że większość osób kojarzy statystykę ze statystyką opisową - to raz. Dwa wiele stron jest napisanych w sposób nie w pełni precyzyjny matematycznie, gdyż np. strony są dedykowane osobom, które uczą się statystyki matematycznej na studiach np. ekonomicznych (gdzie aparat matematyczny jest znacznie mniejszy).
Awatar użytkownika
kp1311
Użytkownik
Użytkownik
Posty: 475
Rejestracja: 20 maja 2009, o 15:06
Płeć: Mężczyzna
Lokalizacja: Zarzecze
Podziękował: 36 razy
Pomógł: 49 razy

Czym jest estymator?

Post autor: kp1311 »

PLrc
Gdybyś losował jedną czekoladkę:
Zdarzenie \(\displaystyle{ \omega \in \Omega}\) odpowiada wylosowaniu konkretnej czekoladki, \(\displaystyle{ X_1(\omega)}\) to jej masa.
Jak będzie w przypadku \(\displaystyle{ \[X_1,...,X_n\]}\)?

Odnośnie materiałów:
-jeśli Ci się śpieszy: 7 wykładów wprowadzających do statystyki Zielińskiego (132 strony) (dostępne w internecie)
-jeśli Ci się nie śpieszy ,,Statistical Inference" - Casella,Berger (686 stron).
PLrc
Użytkownik
Użytkownik
Posty: 236
Rejestracja: 21 cze 2012, o 19:40
Płeć: Mężczyzna
Podziękował: 42 razy

Czym jest estymator?

Post autor: PLrc »

kp1311 pisze:PLrc
Gdybyś losował jedną czekoladkę:
Zdarzenie \(\displaystyle{ \omega \in \Omega}\) odpowiada wylosowaniu konkretnej czekoladki, \(\displaystyle{ X_1(\omega)}\) to jej masa.
Jak będzie w przypadku \(\displaystyle{ \[X_1,...,X_n\]}\)?
Wtedy \(\displaystyle{ \omega=(\omega_1, \ldots, \omega_n)}\) będzie ciągiem odpowiadającym wylosowaniu konkretnych \(\displaystyle{ n}\)-czekolad? \(\displaystyle{ X_1(\omega)}\) będzie masą pierwszej czekolady, \(\displaystyle{ X_2(\omega)}\) będzie masą drugiej czekolady itd. Na wyrazach tego ciągu \(\displaystyle{ \omega}\) mogłyby stać wylosowane czekolady, tylko że wtedy \(\displaystyle{ X_1, \ldots, X_n}\) miałyby oczywiście rozkład dyskretny. Jak moglibyśmy zdefiniować przestrzeń zdarzeń elementarnych \(\displaystyle{ \Omega,}\) żeby \(\displaystyle{ X_1, \ldots, X_n}\) mogły mieć rozkład ciągły, np. rozkład Gaussa? ;>
Awatar użytkownika
kp1311
Użytkownik
Użytkownik
Posty: 475
Rejestracja: 20 maja 2009, o 15:06
Płeć: Mężczyzna
Lokalizacja: Zarzecze
Podziękował: 36 razy
Pomógł: 49 razy

Czym jest estymator?

Post autor: kp1311 »

Wyobraźmy sobie że podczas produkcji kolejne czekoladki otrzymują masy zgodnie z pewnym rozkładem normalnym. Powiedzmy że wyprodukowaliśmy milion czekoladek. Kiedy wyciągasz czekoladkę z tego miliona, losujesz z rozkładu dyskretnego, gdybyś jednak uruchomił fabrykę i wyprodukował sobie nową czekoladkę losowałbyś z ciągłego Czemu nie patrzeć na branie jednej czekoladki z miliona tak samo jak na produkowanie nowej czekoladki?
PLrc
Użytkownik
Użytkownik
Posty: 236
Rejestracja: 21 cze 2012, o 19:40
Płeć: Mężczyzna
Podziękował: 42 razy

Czym jest estymator?

Post autor: PLrc »

Nie odpowiedziałeś mi, czy skonstruowałem dobry model matematyczny pomiaru masy czekoladek ;]
kp1311 pisze:Czemu nie patrzeć na branie jednej czekoladki z miliona tak samo jak na produkowanie nowej czekoladki?
Intuicyjnie jest dla mnie jasne, że jeżeli mamy tych czekoladek bardzo dużo, np. milion, to wtedy rozkład prawdopodobieństwa bardzo przypomina rozkład ciągły.
kp1311 pisze:Kiedy wyciągasz czekoladkę z tego miliona, losujesz z rozkładu dyskretnego, gdybyś jednak uruchomił fabrykę i wyprodukował sobie nową czekoladkę losowałbyś z ciągłego
I jak w takiej sytuacji zdefiniować przestrzeń zdarzeń elementarnych, żeby zmienne losowe mogły mieć rozkład ciągły? ;> Jako \(\displaystyle{ \Omega:=\mathbb{R}^n}\) po prostu? ;> Czyli, że losuję ciąg mas czekoladek \(\displaystyle{ \omega=(\omega_1, \ldots, \omega_n)}\) i wtedy \(\displaystyle{ X_1(\omega)=X_1(\omega_1, \ldots, \omega_n):=\omega_1}\) jest masą pierwszej wyprodukowanej czekoladki, \(\displaystyle{ X_2(\omega)=X_2(\omega_1, \ldots, \omega_n):=\omega_2}\) jest masą drugiej wyprodukowanej czekoladki itd? ;>
kp1311 pisze:Odnośnie materiałów:
-jeśli Ci się śpieszy: 7 wykładów wprowadzających do statystyki Zielińskiego (132 strony) (dostępne w internecie)
-jeśli Ci się nie śpieszy ,,Statistical Inference" - Casella,Berger (686 stron).
A czy jest jakiś taki nowoczesny podręcznik do statystyki w stylu Jakubowskiego, Sztencla od rachunku prawdopodobieństwa? ;>
Awatar użytkownika
kp1311
Użytkownik
Użytkownik
Posty: 475
Rejestracja: 20 maja 2009, o 15:06
Płeć: Mężczyzna
Lokalizacja: Zarzecze
Podziękował: 36 razy
Pomógł: 49 razy

Czym jest estymator?

Post autor: kp1311 »

AD1. To co napisałeś jest zgodne z tym co napisałem odnośnie jednej czekoladki. Jednakże to o czym pisaliśmy później czyli losowanie masy czekoladki zamiast samej czekoladki jest lepsze (skupiamy się na mechanizmie tworzenia obserwacji).
AD2. Tak \(\displaystyle{ \Omega = R^N}\) przy losowaniu \(\displaystyle{ N}\) czekoladek jest dobre.
AD3. Tu nie wiem, miałem styczność tylko z pozycjami które wymieniłem + materiały z wiki. Z tych dwóch ze ,,Statistical Inference" pracuje mi się przyjemniej. Pierwsze wydanie tej książki pochodzi z 1990 roku, więc podręcznik przynajmniej jest nowy, może nawet jest nowoczesny. Są objaśnienia, są przykłady, jest dużo zadań, książka startuje od rachunku prawdopodobieństwa. Daj jej szanse
PAK
Użytkownik
Użytkownik
Posty: 185
Rejestracja: 11 cze 2014, o 17:12
Płeć: Mężczyzna
Lokalizacja: Środkowa Polska
Podziękował: 118 razy

Czym jest estymator?

Post autor: PAK »

kp1311, a ja szczerze mówiąc nadal nie bardzo rozumiem o co chodzi. Powiedzmy że mamy \(\displaystyle{ N}\) czekolad i \(\displaystyle{ X = [X_1,...,X_N]}\) to zmienne losowe opisujące wagę każdej czekolady. Czym w takim razie jest zbiór \(\displaystyle{ \Omega}\) ?

I jak może być w takim razie np: \(\displaystyle{ X(\omega) = [X_1(\omega),...,X_N(\omega)]}\) skoro jeśli by było \(\displaystyle{ X_1 = X_2 = ... = X_N}\) to \(\displaystyle{ X(\omega)}\) byłby wektorem takich samych wartości ?
Awatar użytkownika
kp1311
Użytkownik
Użytkownik
Posty: 475
Rejestracja: 20 maja 2009, o 15:06
Płeć: Mężczyzna
Lokalizacja: Zarzecze
Podziękował: 36 razy
Pomógł: 49 razy

Czym jest estymator?

Post autor: kp1311 »

Jeśli \(\displaystyle{ X_1}\) to funkcja z \(\displaystyle{ \Omega}\) w \(\displaystyle{ \mathbb{R}}\), to \(\displaystyle{ [X_1,...,X_N]}\) jest z \(\displaystyle{ \Omega^N}\) w \(\displaystyle{ R^N}\).

Gdy rozważamy \(\displaystyle{ X = [X_1,...,X_N]}\) z \(\displaystyle{ \Omega = \Omega_1^N}\) w \(\displaystyle{ R^N}\) to \(\displaystyle{ \omega = (\omega_1,...,\omega_N)}\) jest wektorem \(\displaystyle{ N}\) liczb, które wcale nie muszą być równe. Nawet gdybyś miał \(\displaystyle{ \omega = (\omega_1,\omega_1,...,\omega_1)}\) wtedy oczywiście \(\displaystyle{ X = [X_1(\omega_1),...,X_N(\omega_1)]}\), ale wcale nie musi być tak że wszystkie współrzędne \(\displaystyle{ X}\) są równe. Równość rozkładów nie pociąga za sobą równości zmiennych. Prosty przykład: \(\displaystyle{ \Omega = \{0,1\}}\), \(\displaystyle{ P(0)=P(1)=\frac{1}{2}}\), \(\displaystyle{ X_1(0) = 1 = X_2(1), X_1(1) = 0 = X_2(0)}\), teraz \(\displaystyle{ X_1, X_2}\) mają ten sam rozkład ale nie są równe.
PAK
Użytkownik
Użytkownik
Posty: 185
Rejestracja: 11 cze 2014, o 17:12
Płeć: Mężczyzna
Lokalizacja: Środkowa Polska
Podziękował: 118 razy

Czym jest estymator?

Post autor: PAK »

Chodziło mi o dosłowną równość. Załóżmy np: że mamy \(\displaystyle{ N_1, N_2 - \text{ iid } \mathcal{N}(\mu, \sigma^2)}\). Czyli wtedy chodzi o to że \(\displaystyle{ N_1, N_2}\) mają takie same dystrybuanty, ale pod te dystrybuant można podpiąć różne zmienne losowe, niekoniecznie takie same (w sensie dosłownym) ?
Jeśli tak, to czy te zmienne losowe muszą mieć w tedy taki sam rozkłady ?

No i nadal chciałbym się dowiedzieć czym jest formalnie \(\displaystyle{ \Omega}\) tudzież \(\displaystyle{ \Omega^\mathbb{N}}\) przy tych czekoladkach (w sensie od strony doświadczenia).
PLrc
Użytkownik
Użytkownik
Posty: 236
Rejestracja: 21 cze 2012, o 19:40
Płeć: Mężczyzna
Podziękował: 42 razy

Czym jest estymator?

Post autor: PLrc »

PAK pisze:No i nadal chciałbym się dowiedzieć czym jest formalnie \(\displaystyle{ \Omega}\) tudzież \(\displaystyle{ \Omega^\mathbb{N}}\) przy tych czekoladkach (w sensie od strony doświadczenia).
Jeżeli losujemy \(\displaystyle{ N}\) czekoladek spośród \(\displaystyle{ M}\) wyprodukowanych czekoladek i godzimy się na to, aby zmienne losowe \(\displaystyle{ X_1, \ldots, X_N}\) miały rozkład dyskretny to wtedy \(\displaystyle{ \Omega}\) może być zbiorem ciągów czekoladek, np. dla \(\displaystyle{ N=3,}\) \(\displaystyle{ M\geqslant6}\) \(\displaystyle{ \omega}\) może być równa \(\displaystyle{ (\mathrm{czekolada}_5, \mathrm{czekolada}_2, \mathrm{czekolada}_6).}\)
Jeżeli chcemy, żeby zmienne losowe \(\displaystyle{ X_1,\ldots, X_N}\) miały rozkład ciągły lub gdy produkujemy nową czekoladkę, to wtedy \(\displaystyle{ \Omega}\) jest zbiorem ciągów, w których na kolejnych wyrazach stoją masy kolejnych czekoladek, czyli \(\displaystyle{ \Omega=\mathbb{R}^N.}\)
ODPOWIEDZ