Dobra, spałowałem.

Wewnątrz obszaru nie ma innych punktów krytycznych poza
\(\displaystyle{ (0,0)}\), przejdziemy do rozważenia przypadku
\(\displaystyle{ x^{2}+y^{2}=1}\).
Niech
\(\displaystyle{ F(x,y)=xy^{3}-x^{2}+1, \ g(x,y)=x^{2}+y^{2}-1}\). Funkcje
\(\displaystyle{ f,g}\) są gładkie, ponadto gradient
\(\displaystyle{ g}\) nie zeruje się na zbiorze
\(\displaystyle{ \left\{(x,y)\in \RR^{2}: x^{2}+y^{2}=1\right\}}\). Zatem ekstremum warunkowe
\(\displaystyle{ F(x,y)}\) przy warunku
\(\displaystyle{ g(x,y)=0}\) może być przyjmowane tylko w punktach krytycznych funkcjonału
\(\displaystyle{ L(x,y, \lambda)=F(x,y)-\lambda g(x,y)=xy^{3}-x^{2}+1-\lambda\left(x^{2}+y^{2}-1\right)}\)
Liczymy pochodne cząstkowe:
\(\displaystyle{ L'_{x}=y^{3}-2x-\lambda \cdot 2x\\L'_{y}=3xy^{2}-\lambda \cdot 2y\\L'_{\lambda}=-\left(x^{2}+y^{2}-1\right)}\),
co daje nam następujący układ równań:
\(\displaystyle{ \begin{cases}y^{3}-2x= \lambda \cdot 2x\\3xy^{2}=\lambda \cdot 2y\\ x^{2}+y^{2}=1 \end{cases} }\)
1)Jeśli
\(\displaystyle{ x=0}\), to musi być
\(\displaystyle{ y=0}\) (pierwsze równanie), a wtedy nie jest spełniony warunek
\(\displaystyle{ x^{2}+y^{2}=1}\)
2) Jeśli
\(\displaystyle{ y=0}\), to z trzeciego równania mamy
\(\displaystyle{ x=\pm 1}\), czyli ekstremum może występować w punktach
\(\displaystyle{ (-1,0), \ (1,0)}\). Mamy
\(\displaystyle{ F(1,0)=F(-1,0)=0}\).
3) Przypuśćmy teraz, że
\(\displaystyle{ xy\neq 0}\). Pomnóżmy pierwsze równanie układu przez
\(\displaystyle{ y}\), zaś drugie równanie przez
\(\displaystyle{ x}\) i odejmijmy drugie przekształcone równanie stronami od pierwszego, co daje:
\(\displaystyle{ \begin{cases}y^{4}-2xy-3x^{2}y^{2}=0\\3x^{2}y^{2}=\lambda \cdot 2xy\\ x^{2}+y^{2}=1\end{cases}}\)
Przepiszmy teraz pierwsze z równań w formie
\(\displaystyle{ y^{4}-3x^{2}y^{2}=2xy}\)
i przy założeniu, że
\(\displaystyle{ y^{2}\ge 3x^{2}, \ xy\ge 0}\) podnieśmy stronami do kwadratu, żeby mieć tylko parzyste potęgi (to ułatwi skorzystanie z warunku
\(\displaystyle{ x^{2}+y^{2}=1}\)):
\(\displaystyle{ y^{4}\left(y^{2}-3x^{2}\right)^{2}=4x^{2}y^{2}\\y^{4}\left(y^{2}-3\left(1-y^{2}\right)\right)^{2}=4y^{2}\left(1-y^{2}\right)}\)
Niech teraz
\(\displaystyle{ t=y^{2}, \ t\in [0,1]}\). Równanie przyjmuje formę
\(\displaystyle{ t^{2}(4t-3)^{2}=4t(1-t)}\)
czyli potrzebujemy pierwiastków wielomianu
\(\displaystyle{ P(t)=t^{2}(4t-3)^{2}-4t(1-t)}\)
wpadających do przedziału
\(\displaystyle{ [0,1]}\).
Mamy
\(\displaystyle{ P(t)=t\left(16t^{3}-24t^{2}+13t-4\right)}\)
czyli oczywistym rozwiązaniem jest
\(\displaystyle{ t=0}\), co pociąga
\(\displaystyle{ y=0}\), a ten przypadek już rozważyliśmy.
Dalej zajmiemy się równaniem
\(\displaystyle{ 16t^{3}-24t^{2}+13t-4=0}\)
Podstawmy
\(\displaystyle{ t=u+\frac{1}{2}}\), a otrzymamy:
\(\displaystyle{ 16\left(u+\frac{1}{2}\right)^{3}-24\left(u+\frac{1}{2}\right)^{2}+13\left(u+\frac{1}{2}\right)-4=0\\u^{3}+\frac{1}{16}u-\frac{3}{32}=0}\)
Niech teraz
\(\displaystyle{ u=a+b}\) i ponownie korzystając ze wzoru na sześcian sumy, dostajemy:
\(\displaystyle{ a^{3}+b^{3}+3ab(a+b)+\frac{1}{16}(a+b)-\frac{3}{32}=0}\)
Znajdziemy rozwiązanie szczególne tego równania, które jest rozwiązaniem układu równań (pamiętajmy, że oczywiście
\(\displaystyle{ a+b\neq 0}\)):
\(\displaystyle{ \begin{cases}a^{3}+b^{3}=\frac{3}{32}\\(a+b)\left(3ab+\frac{1}{16}\right)=0 \end{cases}}\)
Równoważnie:
\(\displaystyle{ \begin{cases}a^{3}+b^{3}=\frac{3}{32}\\3ab=-\frac{1}{16} \end{cases}}\)
Podnosimy drugie równanie stronami do potęgi trzeciej, co jest przekształceniem równoważnym, i mamy:
\(\displaystyle{ \begin{cases}a^{3}+b^{3}=\frac{3}{32}\\27a^{3}b^{3}=-\frac{1}{4096}\end{cases} }\)
Podstawiamy z pierwszego równania do drugiego
\(\displaystyle{ b^{3}=\frac{3}{32}-a^{3}}\) i mamy równanie kwadratowe zmiennej
\(\displaystyle{ r=a^{3}}\), a mianowicie
\(\displaystyle{ 27r\left(\frac{3}{32}-r\right)=-\frac{1}{4096}\\ 27r^{2}-\frac{81}{32}r-\frac{1}{4096}=0}\)
Z tego otrzymujemy (równania kwadratowe każdy umie rozwiązywać)
\(\displaystyle{ r=\frac{3}{64}-\frac{\sqrt{\frac{61}{3}}}{96}\vee r=\frac{3}{64}+\frac{\sqrt{\frac{61}{3}}}{96}}\)
Cofając się i pamiętając, że
\(\displaystyle{ r=a^{3}, \ a^{3}+b^{3}=\frac{3}{32}, \ u=a+b}\), mamy rozwiązanie szczególne
\(\displaystyle{ u=\sqrt[3]{\frac{3}{64}-\frac{\sqrt{\frac{61}{3}}}{96}}+\sqrt[3]{\frac{3}{64}+\frac{\sqrt{\frac{61}{3}}}{96}}}\)
czyli
\(\displaystyle{ t=u+\frac{1}{2}=\sqrt[3]{\frac{3}{64}-\frac{\sqrt{\frac{61}{3}}}{96}}+\sqrt[3]{\frac{3}{64}+\frac{\sqrt{\frac{61}{3}}}{96}}+\frac{1}{2}}\)
Równanie
\(\displaystyle{ 16t^{3}-24t^{2}+13t-4=0}\) możemy więc przepisać w formie
\(\displaystyle{ 16\left(t-\left(\sqrt[3]{\frac{3}{64}-\frac{\sqrt{\frac{61}{3}}}{96}}+\sqrt[3]{\frac{3}{64}+\frac{\sqrt{\frac{61}{3}}}{96}}+\frac{1}{2}\right)\right)\left(t^{2}+pt+q\right)=0}\)
Wyliczenie
\(\displaystyle{ p,q}\) to kwestia prostego dzielenia wielomianów. xDDDD
A tak na serio, to jestem prawie pewien, że przykład został źle napisany. Kiedyś na informatyce na UWr na egzaminie z matematyki dyskretnej pojawił się (zadanie chyba dotyczyło rekurencji i anihilatorów) wielomian, który nie bardzo daje się rozłożyć szkolnymi metodami i to też była pomyłka układającego zadania.