\(\displaystyle{ f( xy + f(x+y)) = f( f(xy) )+ x+y \ (*)}\)
Podstawmy w \(\displaystyle{ (*),}\) \(\displaystyle{ y:=0}\), a otrzymamy \(\displaystyle{ f(f(x))=f(f(0))+x \ (\ @)}\).
Uzasadnimy, że \(\displaystyle{ f}\) jest injekcją. Istotnie, przypuśćmy, że dla pewnych \(\displaystyle{ x,y\in \RR}\) jest \(\displaystyle{ f(x)=f(y)}\), wtedy \(\displaystyle{ f(f(x))=f(f(y))}\), czyli z \(\displaystyle{ (\ @)}\) mamy \(\displaystyle{ f(f(0))+x=f(f(0))+y}\), tj. \(\displaystyle{ x=y}\), c.n.d.
Ponadto \(\displaystyle{ f}\) jest też surjekcją na \(\displaystyle{ \RR}\), gdyż \(\displaystyle{ f(f(0))+x}\) przebiega wartości rzeczywiste, a więc \(\displaystyle{ \RR=\left\{ f(f(x)): x\in \RR\right\} \subseteq \left\{ f(x): x\in \RR\right\}}\).
Teraz w \(\displaystyle{ (*)}\) podstawiamy \(\displaystyle{ y:=-x}\) i mamy \(\displaystyle{ f(-x^2+f(0))=f(f(-x^2))}\)
a z uwagi na to, że \(\displaystyle{ f}\) jest injekcją dostajemy stąd \(\displaystyle{ -x^2+f(0)=f(-x^2)}\).
Każda liczba niedodatnia \(\displaystyle{ t}\) daje się zapisać jako \(\displaystyle{ -x^2}\) dla pewnego \(\displaystyle{ x\in \RR}\) (wystarczy wziąć \(\displaystyle{ x=\sqrt{|t|}}\)), zatem dla każdego \(\displaystyle{ t\le 0}\) jest \(\displaystyle{ f(t)=t+f(0)}\).
Rozpisując teraz \(\displaystyle{ (*)}\) za pomocą równości \(\displaystyle{ ( \ @)}\) (dla \(\displaystyle{ x:=xy}\)) mamy \(\displaystyle{ f( xy + f(x+y)) = f(f(0))+xy+ x+y}\).
W tej ostatniej równości niech teraz będzie \(\displaystyle{ x\neq 0, \ y:=-\frac 1 x}\), wówczas dostajemy \(\displaystyle{ f\left( -1+f\left( x-\frac 1 x\right) \right)=f(f(0))-1+x-\frac 1 x}\)
a zważywszy, że \(\displaystyle{ x\mapsto x-\frac 1 x}\) dla \(\displaystyle{ x\in \RR\setminus\left\{ 0\right\}}\) przebiega wszystkie wartości rzeczywiste (trywialne, wskazówka: wziąć półprostą dodatnią i pokombinować z twierdzeniem Darboux), otrzymujemy dla dowolnego \(\displaystyle{ t\in \RR}\): \(\displaystyle{ f(-1+f(t))=f(f(0))-1+t \ (\heartsuit)}\)
Kładąc teraz w \(\displaystyle{ (\heartsuit), \ t:=f(z)}\) (możemy, gdyż \(\displaystyle{ f}\) jest surjekcją) otrzymujemy \(\displaystyle{ f(-1+f(f(z)))=f(f(0))-1+f(z)}\)
a ponieważ z \(\displaystyle{ (\ @)}\) jest \(\displaystyle{ f(f(z))=f(f(0))+z}\), więc mamy \(\displaystyle{ f(-1+f(f(0))+z)=f(f(0))-1+f(z)}\), innymi słowy dla stałej \(\displaystyle{ c=f(f(0))-1}\) i dla dowolnego \(\displaystyle{ z\in \RR}\) zachodzi \(\displaystyle{ f(c+z)=c+f(z)}\). Rozpatrzymy dwa przypadki:
\(\displaystyle{ 1^{\circ}}\) Jeżeli \(\displaystyle{ c\neq 0}\), to warunki \(\displaystyle{ f(c+t)=c+f(t)\\f(t)=t+f(0) \text{ dla } t\le 0}\)
gwarantują nam, że \(\displaystyle{ (\forall t\in \RR)f(t)=t+f(0)}\).
Istotnie, prościutka indukcja po \(\displaystyle{ n}\) daje nam \(\displaystyle{ f(cn+t)=cn+f(t)}\) dla \(\displaystyle{ n\in \NN}\) i w zależności od znaku \(\displaystyle{ c\neq 0:}\)
jeśli \(\displaystyle{ c>0}\), to przedstawiamy dowolne \(\displaystyle{ z>0}\) w postaci \(\displaystyle{ cn+t}\) dla pewnego \(\displaystyle{ t\le 0}\), na przykład \(\displaystyle{ z=\left\lceil \frac z c\right\rceil c+t}\) i wtedy \(\displaystyle{ f(z)=f(cn+t)=cn+f(t)=cn+t+f(0)=z+f(0)}\),
a jeśli \(\displaystyle{ c<0}\), to zapisujemy liczbę dodatnią z w postaci: \(\displaystyle{ z=t-cn}\) dla pewnego \(\displaystyle{ t\le 0}\) i wiemy, że \(\displaystyle{ f(t)=t+f(0)\\ f(t-cn+cn)=t+f(0)\\f(t-cn)+cn=t+f(0)\\f(t-cn)=t-cn+f(0)\\f(z)=z+f(0)}\)
\(\displaystyle{ 2^{\circ}}\) Przypuśćmy, że \(\displaystyle{ c=0}\), czyli \(\displaystyle{ f(f(0))=1}\).
Korzystając z \(\displaystyle{ (\heartsuit)}\) mamy więc \(\displaystyle{ f(-1+f(t))=t}\) i jeśli teraz weźmiemy takie \(\displaystyle{ t}\), że
jednocześnie \(\displaystyle{ t\le 0, \ -1+t+f(0)\le 0}\), to otrzymamy \(\displaystyle{ f(-1+t+f(0))=t\\-1+t+2f(0)=t}\)
a stąd \(\displaystyle{ f(0)=\frac 1 2}\). No i oczywiście \(\displaystyle{ (\ @)}\) w połączeniu z \(\displaystyle{ f(f(0))=1}\) daje nam \(\displaystyle{ f(f(x))=1+x}\), wreszcie ciągle dla \(\displaystyle{ t\le 0}\) mamy \(\displaystyle{ f(t)=t+f(0)=t+\frac 1 2}\).
Podstawmy teraz w \(\displaystyle{ (*), \ y:=x\le 0}\) a otrzymamy \(\displaystyle{ f(x^2+f(2x))=f(f(x^2))+2x\\ f\left(x^2+2x+\frac 1 2\right)=x^2+2x+1\\f\left( x^2+2x+\frac 1 2\right) =\left( x^2+2x+\frac 1 2\right)+\frac 1 2}\).
Dla \(\displaystyle{ x\le 0}\) funkcja \(\displaystyle{ x\rightarrow x^2+2x+\frac 1 2}\) przyjmuje wszystkie wartości ze zbioru \(\displaystyle{ (0,+\infty)}\), a nawet \(\displaystyle{ left[ -frac 1 2, +infty
ight)}\) (znowu twierdzenie Darboux), zatem dla dowolnego \(\displaystyle{ t>0}\) mamy \(\displaystyle{ f(t)=t+\frac 1 2}\), czyli w tym przypadku rozwiązaniem jest funkcja \(\displaystyle{ f(t)=t+\frac 1 2}\).
Następnie dokonujemy trywialnego sprawdzenia i pasuje.
Podsumowanie: rozwiązaniami równania \(\displaystyle{ (*)}\) są wszystkie funkcje postaci \(\displaystyle{ f(x)=x+c}\) dla dowolnej stałej rzeczywistej \(\displaystyle{ c}\).