Oznaczmy \(f(x)=x^2-3mx+2m^2+1\); współczynnik przy \(x^2\) jest dodatni.
Warunek I: dwa różne pierwiastki.
\(\Delta=9m^2-4\left(2m^2+1\right)=m^2-4\)
\(\Delta\gt 0\iff m^2\gt 4\iff m\in(-\infty,-2)\cup(2,+\infty)\)
Warunek II: oba pierwiastki mniejsze od \(3\).
Ponieważ ramiona paraboli są skierowane w górę, oba pierwiastki są mniejsze od \(3\) wtedy i tylko wtedy, gdy:
\(f(3)\gt 0\) oraz \(x_w\lt 3\)
Warunek \(f(3)\gt 0\):
\(9-9m+2m^2+1\gt 0\)
\(2m^2-9m+10\gt 0\)
\(\Delta_m=81-80=1\), pierwiastki \(m=2\) oraz \(m=\frac{5}{2}\)
\(m\in(-\infty,2)\cup\left(\frac{5}{2},+\infty\right)\)
Warunek na wierzchołek:
\(x_w=\frac{3m}{2}\lt 3\Rightarrow m\lt 2\)
Część wspólna.
\(\left[(-\infty,-2)\cup(2,+\infty)\right]\cap\left[(-\infty,2)\cup\left(\frac{5}{2},+\infty\right)\right]\cap(-\infty,2)=(-\infty,-2)\)
Odpowiedź: \(m\in(-\infty,-2)\)