Подобные задачи очень часто встречаются в Едином Государственном Экзамене по математике. Решение совершенно несложное. Нужно описать вокруг многоугольника прямоугольник и вычесть из его площади всё лишнее...

Находить площадь фигуры можно не только по формулам, но чаще всего мы используем именно их.