Przycinanie rozkładu prawdopodobieństwa

Definicja klasyczna. Prawdopodobieństwo warunkowe i całkowite. Zmienne losowe i ich parametry. Niezależność. Prawa wielkich liczb oraz centralne twierdzenia graniczne i ich zastosowania.
Matiks21
Użytkownik
Użytkownik
Posty: 546
Rejestracja: 20 maja 2013, o 16:33
Płeć: Mężczyzna
Lokalizacja: Kielce
Podziękował: 94 razy

Przycinanie rozkładu prawdopodobieństwa

Post autor: Matiks21 » 30 cze 2019, o 17:00

Hej

Szukam uzasadnienia, jaki rozkład powinien zostać wybrany dla elementów podzbioru pewnego zbioru o elementach z określonego rozkładu wielkości \(\displaystyle{ n> 1}\), gdy podzbiór ten powstanie, poprzez wybranie \(\displaystyle{ k}\) elementów o najwyższym prawdopodobieństwie, gdzie \(\displaystyle{ k <n}\). \(\displaystyle{ k, n}\) są liczbami naturalnymi.

Powinienem znormalizować wybrane prawdopodobieństwa lub stwierdzić rozkład jednostajny? A może, nie mamy prawa nic stwierdzać o rozkładzie elementów takiego podzbioru?
Czy mogę zastosować tutaj zasadę maksymalnej entropii? Jeśli tak, to czy z tej zasady powinienem otrzymać jednostajny rozkład? Nie wiem jak wykorzystać informację o przycięciu rozkładu.

Nie znalazłem w internecie specjalizacji zajmującej się powyższym zagadnieniem, więc nazwałem go przycinaniem rozkładu, dla ustalenia uwagi. W razie mojego przeoczenia proszę o namiary na takowe.

Pozdrowienia
Rekrutacja Instytut Matematyczny, Uniwersytet Wrocławski (gif)

Awatar użytkownika
leg14
Użytkownik
Użytkownik
Posty: 3129
Rejestracja: 5 lis 2014, o 20:24
Płeć: Mężczyzna
Lokalizacja: Radom
Podziękował: 152 razy
Pomógł: 475 razy

Przycinanie rozkładu prawdopodobieństwa

Post autor: leg14 » 30 cze 2019, o 22:48

Szukam uzasadnienia, jaki rozkład powinien zostać wybrany dla elementów podzbioru pewnego zbioru
Powinienem znormalizować wybrane prawdopodobieństwa lub stwierdzić rozkład jednostajny? A może, nie mamy prawa nic stwierdzać o rozkładzie elementów takiego podzbioru?
Możesz sobie wybrać dowolny rozkład, dopóki nie okreslisz ściśle o co chodzi.
Czyżby chodziło Ci o rozkład warunkowy - to jest ścisły odpowiednik "prawdopodobieństwa przyciętego do zbioru"

Matiks21
Użytkownik
Użytkownik
Posty: 546
Rejestracja: 20 maja 2013, o 16:33
Płeć: Mężczyzna
Lokalizacja: Kielce
Podziękował: 94 razy

Przycinanie rozkładu prawdopodobieństwa

Post autor: Matiks21 » 2 lip 2019, o 05:38

Rozważałem kodowanie stratne. Mamy zbiór elementów \(\displaystyle{ A}\), o pewnym rozkładzie, ale niektóre z tych elementów, są praktycznie nie używane. Można by je wyrzucić, i kodować tylko resztę. Budujemy sobie nowy zbiór elementów \(\displaystyle{ B \subset A}\) poprzez wybranie tych, które zapewniają warunek, że \(\displaystyle{ \mathbb{P}(B) \geq 1 - \alpha}\), odrzucając od najmniej prawdopodobnego elementu, przy ustalonym parametrze błędu \(\displaystyle{ \alpha}\).
Czy mogę utworzyć nową przestrzeń probabilistyczną w taki sposób?

Awatar użytkownika
leg14
Użytkownik
Użytkownik
Posty: 3129
Rejestracja: 5 lis 2014, o 20:24
Płeć: Mężczyzna
Lokalizacja: Radom
Podziękował: 152 razy
Pomógł: 475 razy

Przycinanie rozkładu prawdopodobieństwa

Post autor: leg14 » 2 lip 2019, o 08:45

Mozesz

Matiks21
Użytkownik
Użytkownik
Posty: 546
Rejestracja: 20 maja 2013, o 16:33
Płeć: Mężczyzna
Lokalizacja: Kielce
Podziękował: 94 razy

Re: Przycinanie rozkładu prawdopodobieństwa

Post autor: Matiks21 » 3 lip 2019, o 08:21

Robisz sobie jaja? Moim jedynym pytaniem w wyjściowym pytaniu jest to jaki rozkład należy wybrać i od czego to zależy.

Awatar użytkownika
leg14
Użytkownik
Użytkownik
Posty: 3129
Rejestracja: 5 lis 2014, o 20:24
Płeć: Mężczyzna
Lokalizacja: Radom
Podziękował: 152 razy
Pomógł: 475 razy

Przycinanie rozkładu prawdopodobieństwa

Post autor: leg14 » 3 lip 2019, o 08:43

Robisz sobie jaja? Moim jedynym pytaniem w wyjściowym pytaniu jest to jaki rozkład należy wybrać i od czego to zależy.
Spokojnie.

Popatrz co napisałem, a do czego się w ogóle nie odniosłeś:
Możesz sobie wybrać dowolny rozkład, dopóki nie okreslisz ściśle o co chodzi.
Czyżby chodziło Ci o rozkład warunkowy - to jest ścisły odpowiednik "prawdopodobieństwa przyciętego do zbioru"
Powtórze jeszcze raz. Na obciętym zbiorze możesz sobie zdefiniować dowolny rozkład, jaki Ci przyjdzie do głowy.
Natomiast naturalne pojęcie rozkładu obciętego do podzbioru, to pojęcie rozkładu warunkowego. I moim zdaniem w tę stronę powinieneś iść.

Czyli załóżmy, że na zbiorze skońxczonym - \(\displaystyle{ \left\{1,..,n \right\}}\) mamy rozkład - \(\displaystyle{ \PP}\) dany przez prawdopodobieństwa \(\displaystyle{ p_1,..,p_n}\).
Mamy podzbiór \(\displaystyle{ \left\{1,..,k \right\} \subset \left\{1,..,n \right\}}\)
i chcemy w jakiś sposób obciąć \(\displaystyle{ \PP}\) tylko do \(\displaystyle{ \left\{1,..,k \right\}}\).
No ja twierdzę, że najnaturalniejszym sposobem (będącym równocześnie po prostu rozkładem warunkowym zbioru \(\displaystyle{ \left\{1,..,k \right\}}\)) jest wzięcie \(\displaystyle{ q_i = \frac{p_i}{ \sum_{r=1}^{k}p_r }}\) dla \(\displaystyle{ i \in \left\{1,..,k \right\}}\)

Matiks21
Użytkownik
Użytkownik
Posty: 546
Rejestracja: 20 maja 2013, o 16:33
Płeć: Mężczyzna
Lokalizacja: Kielce
Podziękował: 94 razy

Re: Przycinanie rozkładu prawdopodobieństwa

Post autor: Matiks21 » 4 lip 2019, o 17:44

Dlaczego mogę w dowolny sposób określać sobie rozkład?
Przypuszczam, że warunkowe prawdopodobieństwo, jest często wskazywanym rozwiązaniem, ale Ja szukam jakiś uzasadnień, nawet poza dziedzinowych.

wiki/Principle_of_maximum_entropy
W tym miejscu twierdzi się, że należy wybierać rozkład maksymalizujący entropie w bieżacym stanie wiedzy.

Awatar użytkownika
leg14
Użytkownik
Użytkownik
Posty: 3129
Rejestracja: 5 lis 2014, o 20:24
Płeć: Mężczyzna
Lokalizacja: Radom
Podziękował: 152 razy
Pomógł: 475 razy

Przycinanie rozkładu prawdopodobieństwa

Post autor: leg14 » 7 lip 2019, o 13:02

Dlaczego mogę w dowolny sposób określać sobie rozkład?
e Ja szukam jakiś uzasadnień, nawet poza dziedzinowych.
Nie podałeś żadnych ograniczeń, nie podałeś celu, który Tobą kieruje. Powiedziałeś tylko, że chcesz określić "przycięty" rozkład, no to w takiej sytuacji jedyną sensowną odpowiedzią jest "zrób to jak chcesz" i nie da się podać uzasadnienia. Analogia:
mamy konkretną funkcję różnowartościową i ograniczoną \(\displaystyle{ f:\NN \rightarrow \RR}\).
Twoje pytanie:
Weźmy \(\displaystyle{ k}\) elementów \(\displaystyle{ \NN}\) o największej wartości funkcji \(\displaystyle{ f}\), jak
można określić funkcję g na tych elementach?
Odpowiedź?
Jak Ci się to tylko podoba.

Ale jest jeden sensowny sposób, czyli obcięcie f do mniejszej dziedziny. Tak samo w przypadku prawdopodobieństwa jest jeden sensowny wybór - rozkład warunkowy.


Co do zasady maksymalnej entropii - jest to tylko heurystyka, a poza tym nie widzę jej związku z Twoim problemem

ODPOWIEDZ