Podpowiedź:
Z oznaczeniami jw., skorzystaj z nierówności \(\displaystyle{ 2a^2+2b^2\ge (a+b)^2\ge a^2+b^2}\).
Szkic rozwiązania:
Oznaczamy \(\displaystyle{ x+y=u}\). Z \(\displaystyle{ x+y=3\sqrt{x+1}+3\sqrt{y+2}}\) mamy \(\displaystyle{ u\ge 0}\).
Z jednej strony $$(x+y)^2=9\left(\sqrt{x+1}+\sqrt{y+2}\right)^2\le 9(x+y+3)\cdot 2$$ lub \(\displaystyle{ u^2-18u-54\le 0}\), co daje \(\displaystyle{ u\le 3(3+\sqrt{15})}\). Ta wartość jest osiągana, gdy \(\displaystyle{ x+1=y+2}\), tzn. dla \(\displaystyle{ (x,y)=\left(5+\frac{3}{2}\sqrt{15},4+\frac{3}{2}\sqrt{15}\right)}\).
Z drugiej strony $$(x+y)^2=9\left(\sqrt{x+1}+\sqrt{y+2}\right)^2\ge 9(x+y+3)$$ lub \(\displaystyle{ u^2-9u-27\ge 0}\), co daje \(\displaystyle{ u\ge\frac{3}{2}(3+\sqrt{21})}\). Ta wartość jest osiągana np. gdy \(\displaystyle{ x+1=0}\), tzn. dla \(\displaystyle{ (x,y)=\left(-1,\frac{1}{2}(11+3\sqrt{21})\right)}\). Drugi przypadek to \(\displaystyle{ y+2=0}\), tzn. \(\displaystyle{ (x,y)=\left(\frac{1}{2}(13+3\sqrt{21}),-2\right)}\).
Z jednej strony $$(x+y)^2=9\left(\sqrt{x+1}+\sqrt{y+2}\right)^2\le 9(x+y+3)\cdot 2$$ lub \(\displaystyle{ u^2-18u-54\le 0}\), co daje \(\displaystyle{ u\le 3(3+\sqrt{15})}\). Ta wartość jest osiągana, gdy \(\displaystyle{ x+1=y+2}\), tzn. dla \(\displaystyle{ (x,y)=\left(5+\frac{3}{2}\sqrt{15},4+\frac{3}{2}\sqrt{15}\right)}\).
Z drugiej strony $$(x+y)^2=9\left(\sqrt{x+1}+\sqrt{y+2}\right)^2\ge 9(x+y+3)$$ lub \(\displaystyle{ u^2-9u-27\ge 0}\), co daje \(\displaystyle{ u\ge\frac{3}{2}(3+\sqrt{21})}\). Ta wartość jest osiągana np. gdy \(\displaystyle{ x+1=0}\), tzn. dla \(\displaystyle{ (x,y)=\left(-1,\frac{1}{2}(11+3\sqrt{21})\right)}\). Drugi przypadek to \(\displaystyle{ y+2=0}\), tzn. \(\displaystyle{ (x,y)=\left(\frac{1}{2}(13+3\sqrt{21}),-2\right)}\).