Krok 1. Oznaczenia. Zapiszmy ciąg geometryczny jako
$$a,\qquad aq,\qquad aq^{2},$$
gdzie $a\neq0$ i $q\neq0$.
Krok 2. Pierwszy warunek — ciąg arytmetyczny. Po dodaniu $8$ do drugiego wyrazu ciąg $\left(a,\ aq+8,\ aq^{2}\right)$ ma być arytmetyczny, czyli podwojony wyraz środkowy równa się sumie skrajnych:
$$2(aq+8)=a+aq^{2}\ \Longrightarrow\ aq^{2}-2aq+a=16,$$
$$a(q-1)^{2}=16.\qquad(\text{i})$$
Krok 3. Drugi warunek — ponownie ciąg geometryczny. Po dodaniu $64$ do ostatniego wyrazu ciąg $\left(a,\ aq+8,\ aq^{2}+64\right)$ ma być geometryczny:
$$(aq+8)^{2}=a\left(aq^{2}+64\right),$$
$$a^{2}q^{2}+16aq+64=a^{2}q^{2}+64a\ \Longrightarrow\ 16aq+64=64a,$$
$$a(4-q)=4.\qquad(\text{ii})$$
Krok 4. Rozwiązanie układu. Z (ii) mamy $a=\frac{4}{4-q}$ (przy czym $q\neq4$). Podstawiamy do (i):
$$\frac{4(q-1)^{2}}{4-q}=16\ \Longrightarrow\ (q-1)^{2}=4(4-q),$$
$$q^{2}-2q+1=16-4q\ \Longrightarrow\ q^{2}+2q-15=0,$$
$$(q+5)(q-3)=0\ \Longrightarrow\ q=3\ \text{lub}\ q=-5.$$
Krok 5. Pierwsza możliwość: $q=3$.
$$a=\frac{4}{4-3}=4\ \Longrightarrow\ \text{ciąg } 4,\ 12,\ 36.$$
Sprawdzenie: po dodaniu $8$: $4,\,20,\,36$ — różnice $16$ i $16$ ✓; po dodaniu $64$: $4,\,20,\,100$, a $20^{2}=400=4\cdot100$ ✓
Krok 6. Druga możliwość: $q=-5$.
$$a=\frac{4}{4+5}=\frac49\ \Longrightarrow\ \text{ciąg } \frac49,\ -\frac{20}{9},\ \frac{100}{9}.$$
Sprawdzenie: po dodaniu $8$: $\frac49,\ \frac{52}{9},\ \frac{100}{9}$ — różnice $\frac{48}{9}$ i $\frac{48}{9}$ ✓; po dodaniu $64$: $\frac49,\ \frac{52}{9},\ \frac{676}{9}$, a $\left(\frac{52}{9}\right)^{2}=\frac{2704}{81}=\frac49\cdot\frac{676}{9}$ ✓
Odpowiedź: $4,\ 12,\ 36$ lub $\frac{4}{9},\ -\frac{20}{9},\ \frac{100}{9}$