Мне лень это считать, но вот алгоритм:
Строишь сер.пер. к любым двум сторонам(т.к. он проходит через середину стороны и ей перпендикулярен, то его легко построить), их пересечение - центр. Находишь расстояние от центра до любой из вершин - это радиус. Уравнение окружности с координатами центра a,b и радиусом R: (x-a)²+(y-b)²=R²