a) Wyprowadzenie wzoru. Ramiona mają długość $b$, więc podstawa wynosi $a=18-2b$. Wysokość opuszczona na podstawę dzieli ją na połowy, zatem z twierdzenia Pitagorasa:
$$h=\sqrt{b^2-\left(\frac{a}{2}\right)^2}=\sqrt{b^2-(9-b)^2}=\sqrt{b^2-81+18b-b^2}=\sqrt{18b-81}.$$
Stąd pole:
$$P=\frac12\,a\,h=\frac{(18-2b)\sqrt{18b-81}}{2}. \qquad\blacksquare$$
b) Dziedzina. Muszą zachodzić jednocześnie:
$$a=18-2b>0\ \Longrightarrow\ b<9,$$
$$18b-81>0\ \Longrightarrow\ b>\frac{9}{2}.$$
Warunek trójkąta $a<2b$ daje $18-2b<2b$, czyli $b>\frac92$ — to samo ograniczenie. Zatem
$$D=\left(\frac{9}{2},\ 9\right).$$
c) Największe pole. Zapiszmy $P(b)=(9-b)\sqrt{18b-81}$. Ponieważ na dziedzinie $P>0$, wystarczy zmaksymalizować kwadrat wyrażenia pomocniczego:
$$g(b)=(9-b)^2(2b-9).$$
$$g'(b)=-2(9-b)(2b-9)+2(9-b)^2=(9-b)\bigl[-4b+18+18-2b\bigr]=6(9-b)(6-b).$$
Na przedziale $\left(\frac92,9\right)$ czynnik $(9-b)$ jest dodatni, więc znak pochodnej wyznacza $(6-b)$: dla $b<6$ funkcja rośnie, dla $b>6$ maleje. Maksimum wypada w $b=6$.
Wtedy podstawa $a=18-2\cdot6=6$, czyli trójkąt jest równoboczny.
Kontrola: $P(6)=(9-6)\sqrt{18\cdot6-81}=3\sqrt{27}=9\sqrt3$, co zgadza się ze wzorem na pole trójkąta równobocznego $\frac{6^2\sqrt3}{4}=9\sqrt3$.
Odpowiedź: boki $6$, $6$, $6$ (trójkąt równoboczny), pole $9\sqrt3$.