Gradient z funkcji po macierzy.

[junior-lugos]

Dobry wieczór, spotkałem się z owym problemem który irytuje mnie od kilku godzin.

Dany jest ciąg obserwacji: \(\displaystyle{ \left( \left\{ x_{1} ,y_{1} \right\},...,\left\{ x_{N} ,y_{N}\right\} \right)}\), gdzie \(\displaystyle{ x_{n} \in R^{D}, y_{n} \in R^{K}}\).

Wyznaczyć gradient funkcji:

\(\displaystyle{ f(A) = \sum_{n=1}^{N} x_{n}^{T}*\sin(A*y_{n})}\),

względem macierzy \(\displaystyle{ A \in R^{DxK}}\), następnie zapisać wynik bez użycia jakiejkolwiek sumy definiując odpowiednie wektory i macierze. W razie potrzeby skorzystać z iloczynu Hadamarda.

Tyle z polecenia. \(\displaystyle{ x^{T}}\) to oczywiście transpozycja.

Policzony przeze mnie gradient z tej funkcji:

\(\displaystyle{ \nabla_{A} f(A) = \sum_{n=1}^{N} x_{n}^{T}*\cos(A*y_{n})*y_{n}}\)

Wynik tego gradientu powinien być rozmiaru \(\displaystyle{ \nabla_{A} f(A) \in R^{Kx1}}\), gdyż:

\(\displaystyle{ x_{n}^{T}*\cos(A*y_{n})*y_{n}}\) := \(\displaystyle{ ([1xD] * [Dx1]) * [Kx1] = [1x1] * [Kx1] = [Kx1]}\)


Skoro mamy N obserwacji można utworzyć duże macierze X oraz Y zawierające wszystkie wektory \(\displaystyle{ x_{n}, y_{n}}\).

\(\displaystyle{ x \in R^{Dx1}}\) \(\displaystyle{ \Rightarrow X \in R^{DxN}}\)
\(\displaystyle{ y \in R^{Kx1}}\) \(\displaystyle{ \Rightarrow Y \in R^{KxN}}\)

Jestem bliski rozwiązania, lecz nie potrafię uzyskać z tych macierzy wymiaru \(\displaystyle{ [Kx1]}\). Policzyłem już wiele podobnych przykładów jednakże z tym nie idzie. Czy ktoś potrafi pomóc?

[M Maciejewski]

Co rozumiesz przez sinus od wektora? Czy to wektor sinusów współczynników wektora?
Czy \(\displaystyle{ R^{DxK}}\) to przestrzeń macierzy o wsp. rzeczywistych wymiaru \(\displaystyle{ D\times K}\)?

Gradient funkcji \(\displaystyle{ f\colon X\to \mathbb R}\) w danym punkcie jest elementem \(\displaystyle{ X^*}\), więc w przypadku skończeniewymiarowym, ma tyle samo współrzędnych, co dziedzina, a więc \(\displaystyle{ D\cdot K}\).