Oznaczmy bok kwadratowego dna przez $a$, a wysokość zbiornika przez $h$.

Krok 1. Warunek objętości.

$$a^{2}h=144\ \Longrightarrow\ h=\frac{144}{a^{2}}.$$

Krok 2. Dziedzina. Żaden wymiar nie przekracza $9$:

$$a\le 9\qquad\text{oraz}\qquad \frac{144}{a^{2}}\le 9\ \Longrightarrow\ a^{2}\ge 16\ \Longrightarrow\ a\ge 4.$$

$$a\in\langle 4,\ 9\rangle.$$

Krok 3. Funkcja kosztu. Zbiornik jest otwarty od góry: dno o polu $a^{2}$ oraz cztery ściany boczne o łącznym polu $4ah$:

$$K(a)=100a^{2}+75\cdot 4ah=100a^{2}+300a\cdot\frac{144}{a^{2}}=100a^{2}+\frac{43200}{a}.$$

Krok 4. Minimum. Liczymy pochodną:

$$K^{\prime}(a)=200a-\frac{43200}{a^{2}}.$$

$$K^{\prime}(a)=0\ \Longleftrightarrow\ 200a^{3}=43200\ \Longleftrightarrow\ a^{3}=216\ \Longleftrightarrow\ a=6.$$

Dla $a<6$ pochodna jest ujemna, dla $a>6$ dodatnia, więc w $a=6$ funkcja osiąga minimum. Punkt ten należy do przedziału $\langle4,9\rangle$.

Krok 5. Wymiary i koszt.

$$h=\frac{144}{36}=4\ \mathrm{m}\le 9\ \checkmark$$

$$K(6)=100\cdot 36+\frac{43200}{6}=3600+7200=10\,800\ \text{zł}.$$

Odpowiedź: dno $6\ \mathrm{m}\times 6\ \mathrm{m}$, wysokość $4\ \mathrm{m}$; najmniejszy koszt to $10\,800$ zł.