Nie powiedziałaś jakiej definicji wypukłości używasz, więc załóżmy najprostszą wypukłość w sensie Jensena, tzn.
Niech `I` będzie odcinkiem (być może nieograniczonym). Funkcja `f:I\to\RR` jest dowolnych `x,y\in` jest wypukła, jeżeli dla dowolnych `x,y\inI` zachodzi
\(\displaystyle{ f\left(\frac{x+y}{2}\right)\leq \frac{f(x)+f(y)}{2}.}\)
Zaczniemy od takiego faktu (jeżeli nie wiesz jak go udowodnić, to daj znać):
Jeżeli funkcja `f:I\to\RR` jest monotoniczna, to jej zbiór punktów nieciągłości jest co najwyżej przeliczalny.
Załóźmy, że funkcja jest rosnąca.
Niech `x` będzie dowolnym punktem z wnętrza przedziału `I`. Wtedy, na mocy powyższego faktu, istnieją punkty `p<x<q` takie, że `f` jest ciągła w punkcie `q`. Niech `\varepsilon` będzie dowolną liczbą dodatnią. Podzielmy odcinek `[p,q]` na `N` równych odcinków punktami
\(\displaystyle{ x_i=p+\frac{q-p}{N}i,\quad i=0,1,...,N}\)
dobierając `N` takie duże, żeby były spełnione dwa warunki
1) `f(q)-f(x_{N-1})<\varepsilon/3` - to nam gwarantuje ciągłość funkcji `f` w punkcie `q` oraz
2) `x` nie należy do żadnego z dwóch skrajnych przedziałów - to osiągniemy dobierając `N` takie duże, aby `\frac{q-p}{N}<\min(x-p,q-x)` .
Zobaczmy teraz co wynika z wypukłosci; dla `i=1,2...,N-1`.
Mamy `x_i=\frac{x_{i-1}+x_{i+1}}{2}` i warunek Jensena można zapisać tak:
\(\displaystyle{ f(x_{i})-f(x_{i-1})\leq f(x_{i+1})-f(x_i),}\)
a to oznacza, że dla wszystkich `i` zachodzi
\(\displaystyle{ f(x_i)-f(x_{i-1)}\leq f(x_N)-f(x_{N-1})<\frac{\varepsilon}3}\)
Przypuśćmy, że `x\in[x_i,x_{i+1}),\quad i=1,2,...,N-1`
Jeżeli teraz weźmiemy dowolne `y` takie, że `|x-y|<\frac{q-p}{N}`, to `x_{i-1}<y<x_{i+2}`, a więc
\(\displaystyle{ |f(x)-f(y)|<f(x_{i+2})-f(x_{i-1})=f(x_{i+2}-f(x_{i+1})+f(x_{i+1}-f(x_{i})+f(x_{i}-f(x_{i-1})<\varepsilon.}\)
A to właśnie oznacza ciągłość funkcji w punkcie `x`.
Jako ćwiczenie zrób ten dowód dla funkcji malejącej.