Krok 1. Wzory Viète'a.
$$S=x_1+x_2=2m-2,\qquad P=x_1x_2=m^{2}-m.$$
Krok 2. Warunek dwóch różnych pierwiastków.
$$\Delta=4(1-m)^{2}-4\left(m^{2}-m\right)=4\left(1-2m+m^{2}-m^{2}+m\right)=4(1-m).$$
$$\Delta>0\ \Longleftrightarrow\ m\lt 1.$$
Krok 3. Lewa nierówność $x_1x_2\le 6m$.
$$m^{2}-m\le 6m\ \Longrightarrow\ m^{2}-7m\le0\ \Longrightarrow\ m(m-7)\le0,$$
$$0\le m\le 7.$$
Krok 4. Prawa nierówność $6m\le x_1^{2}+x_2^{2}$. Korzystamy z $x_1^{2}+x_2^{2}=S^{2}-2P$:
$$S^{2}-2P=(2m-2)^{2}-2\left(m^{2}-m\right)=4m^{2}-8m+4-2m^{2}+2m=2m^{2}-6m+4.$$
$$6m\le 2m^{2}-6m+4\ \Longrightarrow\ 2m^{2}-12m+4\ge0\ \Longrightarrow\ m^{2}-6m+2\ge0.$$
$$\Delta=36-8=28,\qquad \sqrt{28}=2\sqrt{7},\qquad m=\frac{6\pm2\sqrt{7}}{2}=3\pm\sqrt{7}.$$
$$m\le 3-\sqrt{7}\qquad\text{lub}\qquad m\ge 3+\sqrt{7}.$$
Krok 5. Część wspólna. Ponieważ $\sqrt{7}\approx2{,}65$, mamy $3-\sqrt{7}\approx0{,}35$ oraz $3+\sqrt{7}\approx5{,}65$. Warunek $m\ge3+\sqrt7$ jest sprzeczny z $m\lt 1$, więc odpada. Zostaje
$$0\le m\le 3-\sqrt{7},$$
co automatycznie spełnia też $m\lt 1$.
Kontrola: dla $m=0$ równanie to $x^{2}+2x=0$ o pierwiastkach $0$ i $-2$; warunek: $0\le0\le4$ ✓. Dla $m=0{,}3$: $-0{,}21\le1{,}8\le2{,}38$ ✓. Dla $m=0{,}5$: $3\le1{,}5$ — fałsz, zgodnie z wykluczeniem ✓
Odpowiedź: $m\in\left\langle 0,\ 3-\sqrt{7}\right\rangle$