Strona 1 z 1

[Teoria informacji] Pojemność kanału

: 26 maja 2019, o 22:39
autor: jakub1998
Niech \(\displaystyle{ X = \left\{ 1,2\right\}}\), \(\displaystyle{ Y = \left\{ 0,1,e\right\}}\) i macierz będzie postaci

\(\displaystyle{ \begin{bmatrix}
1-p-q & q & p\\
q & 1-p-q & p\end{bmatrix}}\)


Oblicz pojemność tego kanału.

Mam problem z tym zadaniem. Bardzo podobne - ta sama treść tylko macierz inna

\(\displaystyle{ \begin{bmatrix}
1-p & 0 & p\\
0 & 1-p & p\end{bmatrix}}\)


Liczyłem poprzez założenie \(\displaystyle{ P(X=0) = \alpha}\), potem po podstawieniu do wzoru \(\displaystyle{ C = \max _ \alpha (H(X) - H(Y|X))}\) wyszło, że max jest dla \(\displaystyle{ \alpha = \frac{1}{2}}\), było to bardzo proste, bo wychodziło dodawanie dwóch entropii, gdzie było widać, że dla takiej \(\displaystyle{ \alpha}\) będzie to największe.
Natomiast co w takim przypadku jak powyżej? Po podstawieniu do wzoru wychodzą takie rzeczy, że nie mam pojęcia co z tym dalej zrobić. Jest jakaś inna metoda na liczenie pojemności?

[Teoria informacji] Pojemność kanału

: 27 maja 2019, o 12:36
autor: Dudenzz
Co to znaczy, że było widać, że maksimum jest przy \(\displaystyle{ \alpha = 0.5}\)? Policzyłeś pochodne, czy nie? Zwykle szukając optimum posługujemy się rachunkiem różniczkowym. I tylko do tego sprowadza się podane zadanie.

[Teoria informacji] Pojemność kanału

: 28 maja 2019, o 19:47
autor: jakub1998
To oczywiste, że policzyłem, to nie był cel tego zadania.. Ja tylko dałem przykład, że dla takich danych wychodzi ładnie i nie ma problemu z wyznaczeniem maximum, a ten przykład jest bardzo dziwny i nie wiem co zrobić, kiedy już ta pochodna jest policzona.. O to się pytam, czy są na to jakieś sposoby inne niż liczenie \(\displaystyle{ (H(X) - H(Y|X))'}\), lub czy są jakieś triki z redukowaniem składników dla entropii