Krok 1. Zapisanie równania.
Z własności ciągów arytmetycznych wynika, że dla trzech kolejnych wyrazów ciągu zachodzi następująca równość:
$$a_{2}=\frac{a_{1}+a_{3}}{2}$$

Ten ciąg będzie więc arytmetyczny wtedy, gdy spełni powyższą równość. Podstawiając zatem znane nam wyrazy, otrzymamy:
$$m^2+3=\frac{2m+11+5-m}{2} \\
m^2+3=\frac{m+16}{2} \\
2m^2+6=m+16 \\
2m^2-m-10=0$$

Krok 2. Rozwiązanie powstałego równania kwadratowego.
Powstało nam równanie kwadratowe, które musimy teraz rozwiązać. Jest to równanie w postaci ogólnej, więc z pomocą przyjdzie nam delta:
Współczynniki: \(a=2,\;b=-1,\;c=-10\)
$$Δ=b^2-4ac=(-1)^2-4\cdot2\cdot(-10)=1-(-80)=1+80=81 \\
\sqrt{Δ}=\sqrt{81}=9$$

$$m_{1}=\frac{-b-\sqrt{Δ}}{2a}=\frac{-(-1)-9}{2\cdot2}=\frac{1-9}{4}=\frac{-8}{4}=-2 \\
m_{2}=\frac{-b+\sqrt{Δ}}{2a}=\frac{-(-1)+9}{2\cdot2}=\frac{1+9}{4}=\frac{10}{4}=2,5$$

Krok 3. Ustalenie, kiedy ciąg będzie malejący.
Wiemy już, że ciąg będzie arytmetyczny, gdy \(m=-2\) oraz gdy \(m=2,5\). Musimy jeszcze ustalić, dla którego z tych przypadków, ciąg ten będzie malejący. Podstawmy zatem wyznaczone \(m\) do wyrażeń z treści zadania i zobaczmy co otrzymamy:
Gdy \(m=-2\):
\(a_{1}=2\cdot(-2)+11=-4+11=7 \\
a_{2}=(-2)^2+3=4+3=7 \\
a_{3}=5-(-2)=5+2=7\)

Gdy \(m=2,5\):
\(a_{1}=2\cdot2,5+11=5+11=16 \\
a_{2}=2,5^2+3=6,25+3=9,25 \\
a_{3}=5-2,5=2,5\)

Widzimy więc, że dla \(m=-2\) ciąg jest stały, a dla \(m=2,5\) ciąg jest rzeczywiście malejący (różnica tego ciągu będzie równa \(r=-6,75\)). Stąd też jedyną poprawną odpowiedzią do tego zadania będzie \(m=2,5\).