Krok 1. Wyróżnik.
\(\Delta=(2-4m)^2-4\cdot 4\cdot\left(m^2-m-2\right)\)
\(=4-16m+16m^2-16m^2+16m+32=36\)
Wyróżnik jest stały i dodatni, więc dla każdego \(m\) równanie ma dwa różne pierwiastki rzeczywiste.
Krok 2. Pierwiastki.
\(\sqrt{\Delta}=6\)
\(x_1=\frac{(4m-2)-6}{8}=\frac{4m-8}{8}=\frac{m-2}{2}\)
\(x_2=\frac{(4m-2)+6}{8}=\frac{4m+4}{8}=\frac{m+1}{2}\)
Krok 3. Warunek dodatniości obu pierwiastków.
\(\frac{m-2}{2}\gt 0\;\wedge\;\frac{m+1}{2}\gt 0\)
\(m\gt 2\;\wedge\;m\gt -1\Rightarrow m\gt 2\)
Krok 4. Nierówność \(x_1^2+x_2^2\le\frac{17}{4}\).
\(\left(\frac{m-2}{2}\right)^2+\left(\frac{m+1}{2}\right)^2\le\frac{17}{4}\)
\(\frac{(m-2)^2+(m+1)^2}{4}\le\frac{17}{4}\)
\(m^2-4m+4+m^2+2m+1\le 17\)
\(2m^2-2m-12\le 0\)
\(m^2-m-6\le 0\)
\((m-3)(m+2)\le 0\)
\(m\in\langle-2,3\rangle\)
Krok 5. Część wspólna.
\(m\gt 2\;\wedge\;-2\le m\le 3\Rightarrow m\in(2,3\rangle\)
Odpowiedź: \(m\in(2,3\rangle\)