Krok 1. Przekrój osiowy. Przekrojem osiowym stożka jest trójkąt równoramienny o podstawie równej średnicy $2r$ i ramionach równych tworzącej $l$. Z warunku na obwód:
$$2r+2l=20\ \Longrightarrow\ l=10-r.$$
Krok 2. Wysokość stożka. Z twierdzenia Pitagorasa ($l$ — przeciwprostokątna):
$$h=\sqrt{l^{2}-r^{2}}=\sqrt{(10-r)^{2}-r^{2}}=\sqrt{100-20r}.$$
Krok 3. Dziedzina. Musi być $r>0$ oraz $100-20r>0$, czyli
$$r\in(0,\ 5).$$
Krok 4. Objętość.
$$V(r)=\frac13\pi r^{2}h=\frac13\pi r^{2}\sqrt{100-20r}.$$
Krok 5. Maksymalizacja. Objętość jest dodatnia, więc maksimum $V$ pokrywa się z maksimum wyrażenia pod pierwiastkiem po podniesieniu do kwadratu. Rozpatrzmy funkcję pomocniczą
$$f(r)=r^{4}\left(100-20r\right)=100r^{4}-20r^{5}.$$
$$f^{\prime}(r)=400r^{3}-100r^{4}=100r^{3}(4-r).$$
Na przedziale $(0,5)$ pochodna jest dodatnia dla $r\lt 4$ i ujemna dla $r>4$, więc maksimum wypada w
$$r=4.$$
Krok 6. Pozostałe wielkości.
$$l=10-4=6,\qquad h=\sqrt{100-80}=\sqrt{20}=2\sqrt{5}.$$
Kontrola: obwód przekroju $=2\cdot4+2\cdot6=20$ ✓ oraz $h=\sqrt{6^{2}-4^{2}}=\sqrt{20}$ ✓
Krok 7. Największa objętość.
$$V=\frac13\pi\cdot4^{2}\cdot2\sqrt{5}=\frac{32\sqrt{5}}{3}\pi\approx 74{,}9.$$
Odpowiedź: $r=4$, $\;h=2\sqrt{5}$, $\;V=\frac{32\sqrt{5}}{3}\pi$