Żeby nie było niejasności, zakładam, że \(\displaystyle{ a_0\in \NN}\), w przeciwnym razie (tj. gdyby wziąć całkowite ujemne) nie ma nawet sensu rozpatrywania czegoś takiego, jak \(\displaystyle{ \sqrt{a_0}}\), więc panie, daj pan spokój.
1) Jeżeli \(\displaystyle{ a_0\equiv 0\pmod{3}}\), to ciąg ma podciąg stały. Zacznijmy od prostej obserwacji, że jeśli \(\displaystyle{ a_0\equiv 0\pmod{3}}\), to dla każdego \(\displaystyle{ n}\) jest \(\displaystyle{ a_n\equiv 0\pmod{3}}\), gdyż dla dowolnego \(\displaystyle{ k\in \ZZ}\) jest \(\displaystyle{ 3|k^2\Rightarrow 3|k}\). Niech \(\displaystyle{ m\in \NN}\). Zbiór wyrazów ciągu zadanego przez: \(\displaystyle{ a_0=3m, \ a_{n+1}=\begin{cases} \sqrt{a_n} &\mbox{gdy }\sqrt{a_n}\in\ZZ \\ a_n + 3 &\mbox{gdy }\sqrt{a_n}\notin\ZZ. \end{cases}}\)
ma z zasady minimum element najmniejszy, oznaczmy go przez \(\displaystyle{ a}\). Otóż twierdzę, że tak określony ciąg ma podciąg stale równy \(\displaystyle{ a}\).
Dla dowodu nie wprost przypuśćmy, że zbiór \(\displaystyle{ A=\left\{ n\in \NN^+: a_n=a\right\}}\) ma element największy \(\displaystyle{ n_{\max}}\). Wtedy oczywiście \(\displaystyle{ a_{n_{\max}-1}=a^2, \ a_{n_{\max}}=a}\). Istnieje takie \(\displaystyle{ k\in \NN^+}\), że \(\displaystyle{ a+3k=a^2}\) (bo \(\displaystyle{ a\equiv 0\pmod{3}}\) i \(\displaystyle{ a^2\equiv 0\pmod{3}}\)), wtedy \(\displaystyle{ a_{n_{\max}+k+1}=a}\) (gdyby bowiem któraś z liczb \(\displaystyle{ a_{n_{\max}+i}, \ i \in\left\{ 1, \ldots k-1\right\}}\) była pełnym kwadratem, to \(\displaystyle{ a_{n_{\max}+i+1}<a}\), sprzeczność z definicją \(\displaystyle{ a}\)), sprzeczność. Zatem \(\displaystyle{ A}\) jest nieograniczonym z góry podzbiorem \(\displaystyle{ \NN^+}\), czyli nieskończonym podzbiorem \(\displaystyle{ \NN^+}\), stąd istnieje podciąg stale równy \(\displaystyle{ a}\).
2) Jeżeli \(\displaystyle{ a_0>1}\) i \(\displaystyle{ a_0\neq 0\pmod{3}}\), to ciąg z zadania nie ma podciągu stałego. Jest to oczywiste w przypadku, gdy \(\displaystyle{ a_0\equiv 2\pmod{3}}\), gdyż kwadrat liczby całkowitej daje resztę \(\displaystyle{ 0}\) lub \(\displaystyle{ 1}\) z dzielenia przez \(\displaystyle{ 3}\). Ciekawiej jest w przypadku, gdy \(\displaystyle{ a_0\equiv 1\pmod{3}}\), którym się teraz zajmiemy. Pokażemy, że wówczas uzyskamy wyraz ciągu przystający do \(\displaystyle{ 2\pmod{3}}\), a zatem ciąg będzie od pewnego miejsca rosnący (od pewnego miejsca każdy następny wyraz będzie o \(\displaystyle{ 3}\) większy od poprzedniego).
Jeśli istnieje \(\displaystyle{ k\in \NN}\) takie, że \(\displaystyle{ a_0\in\left( \left( 3k+1\right)^2, (3k+2)^2 \right]}\), to jest to jasne, gdyż istnieje wówczas takie \(\displaystyle{ l\in \NN}\), że \(\displaystyle{ a_0+3l=(3k+2)^2}\), a wtedy \(\displaystyle{ a_l=a_0+3l}\), gdyż w przedziale \(\displaystyle{ ((3k+1)^2, (3k+2)^2)}\) nie ma pełnych kwadratów. Weźmy takie \(\displaystyle{ l}\) i mamy \(\displaystyle{ a_{l+1}=3k+2}\).
Natomiast jeżeli istnieje takie \(\displaystyle{ k\in \NN^+}\), że \(\displaystyle{ a_0\in\left( (3k-1)^2, (3k+1)^2\right]}\), to istnieje takie \(\displaystyle{ l\in \NN}\), że \(\displaystyle{ a_0+3l=(3k+1)^2}\)
(pamiętajmy, że rozważamy przypadek \(\displaystyle{ a_0\equiv 1\pmod{3}}\)), a wtedy \(\displaystyle{ a_l=(3k+1)^2}\) i \(\displaystyle{ a_{l+1}=3k+1\le (3k-1)^2}\).
Następnie znów sprawdzamy, czy istnieje takie \(\displaystyle{ i\in \NN^+}\), że \(\displaystyle{ a_{l+1}\in\left( (3i+1)^2, (3i+2)^2\right]}\), jeśli tak, to jesteśmy zadowoleni, w przeciwnym razie istnieje takie \(\displaystyle{ i}\), że \(\displaystyle{ a_{l+1}\in ((3i-1)^2, (3i+1)^2]}\) i oczywiście wtedy \(\displaystyle{ i\le k-1}\), a więc \(\displaystyle{ a_{l+1}\le(3k-2)^2<(3k-1)^2}\).
Na mocy zasady minimum nie możemy jednak w nieskończoność zmniejszać \(\displaystyle{ a_j}\), zatem w końcu wykonując ten algorytm trafimy do przedziału postaci \(\displaystyle{ ((3i+1)^2,(3i+2)^2]}\), a to kończy dowód.
3) Jeżeli \(\displaystyle{ a_0=1}\), to mamy po prostu ciąg stały, jako jego podciąg stały można wziąć cały ciąg.
Podsumowując, przy naturalnym IMHO założeniu, że \(\displaystyle{ a_0\in \NN}\), odpowiedź to \(\displaystyle{ 1}\) oraz wszystkie podzielne przez trzy. W przeciwnym razie (ale tego pokazywać nie będę) dochodzą jeszcze wszystkie ujemne, które nie dają reszty \(\displaystyle{ 2}\) modulo \(\displaystyle{ 3}\).