Подобные задачи очень часто встречаются в Едином Государственном Экзамене по математике. Решение совершенно несложное. Нужно описать вокруг многоугольника прямоугольник и вычесть из его площади всё лишнее...