Krok 1. Trójkąt $DAB$. W prostokącie kąt przy wierzchołku $A$ jest prosty, więc trójkąt $DAB$ jest prostokątny o przyprostokątnych
$$|AB|=a,\qquad |AD|=|BC|=b,$$
a jego przeciwprostokątną jest przekątna
$$|BD|=\sqrt{a^{2}+b^{2}}.$$
Krok 2. Wysokość $AE$. Pole trójkąta $DAB$ można wyrazić na dwa sposoby:
$$\frac12\,ab=\frac12\,|BD|\cdot|AE|\ \Longrightarrow\ |AE|=\frac{ab}{\sqrt{a^{2}+b^{2}}}.$$
Krok 3. Odcinek $DE$. Z twierdzenia Euklidesa (kwadrat przyprostokątnej równa się iloczynowi przeciwprostokątnej i rzutu tej przyprostokątnej):
$$|AD|^{2}=|BD|\cdot|DE|\ \Longrightarrow\ |DE|=\frac{b^{2}}{\sqrt{a^{2}+b^{2}}}.$$
Krok 4. Pole trójkąta $AED$. Trójkąt $AED$ ma kąt prosty przy $E$ (bo $AE\perp BD$), a jego przyprostokątne to $DE$ i $AE$:
$$P_{AED}=\frac12\,|DE|\cdot|AE|=\frac12\cdot\frac{b^{2}}{\sqrt{a^{2}+b^{2}}}\cdot\frac{ab}{\sqrt{a^{2}+b^{2}}}=\frac{ab^{3}}{2\left(a^{2}+b^{2}\right)}.$$
Kontrola liczbowa: dla $a=2$, $b=1$ mamy $|BD|=\sqrt5$, $|AE|=\frac{2}{\sqrt5}$, $|DE|=\frac{1}{\sqrt5}$, więc $P=\frac12\cdot\frac{2}{5}=\frac15$; wzór daje $\frac{2\cdot1}{2\cdot5}=\frac15$ ✓
Odpowiedź: $P_{AED}=\frac{ab^{3}}{2\left(a^{2}+b^{2}\right)}$