Etap I. Warunek dwóch różnych rozwiązań rzeczywistych.
Równanie ma być kwadratowe: \(m\neq 0\).
\(\Delta=(m+1)^2-4m(-2m+3)=m^2+2m+1+8m^2-12m=9m^2-10m+1\)
\(9m^2-10m+1=(9m-1)(m-1)\)
\(\Delta\gt 0\iff m\lt\frac{1}{9}\;\vee\;m\gt 1\)
Ponadto rozwiązania mają być różne od zera, co oznacza, że wyraz wolny jest różny od zera:
\(-2m+3\neq 0\Rightarrow m\neq\frac{3}{2}\)
Etap II. Warunek \(\frac{1}{x_1^2}+\frac{1}{x_2^2}\lt 1\).
Ze wzorów Viète’a:
\(x_1+x_2=\frac{m+1}{m}\), \(\;x_1x_2=\frac{3-2m}{m}\)
\(\frac{1}{x_1^2}+\frac{1}{x_2^2}=\frac{x_1^2+x_2^2}{(x_1x_2)^2}=\frac{(x_1+x_2)^2-2x_1x_2}{(x_1x_2)^2}\)
\((x_1+x_2)^2-2x_1x_2=\frac{(m+1)^2}{m^2}-\frac{2(3-2m)}{m}=\frac{(m+1)^2-2m(3-2m)}{m^2}=\frac{5m^2-4m+1}{m^2}\)
\((x_1x_2)^2=\frac{(3-2m)^2}{m^2}\)
Zatem warunek przyjmuje postać:
\(\frac{5m^2-4m+1}{(3-2m)^2}\lt 1\)
Ponieważ \((3-2m)^2\gt 0\) (bo \(m\neq\frac{3}{2}\)), mnożymy obie strony:
\(5m^2-4m+1\lt 4m^2-12m+9\)
\(m^2+8m-8\lt 0\)
\(\Delta=64+32=96\), \(\;\sqrt{96}=4\sqrt{6}\)
\(m\in\left(-4-2\sqrt{6},\;-4+2\sqrt{6}\right)\)
Etap III. Część wspólna warunków.
Szukamy \(m\) spełniających jednocześnie: \(m\neq 0\), \(m\neq\frac{3}{2}\), \(m\in\left(-\infty,\frac{1}{9}\right)\cup(1,+\infty)\) oraz \(m\in\left(-4-2\sqrt{6},-4+2\sqrt{6}\right)\).
Ponieważ \(-4+2\sqrt{6}\approx 0{,}899\lt 1\), część wspólna z \((1,+\infty)\) jest pusta, a z \(\left(-\infty,\frac{1}{9}\right)\) otrzymujemy przedział \(\left(-4-2\sqrt{6},\frac{1}{9}\right)\), z którego usuwamy \(m=0\).
Odpowiedź: \(m\in\left(-4-2\sqrt{6},\;0\right)\cup\left(0,\;\frac{1}{9}\right)\)