по боковому ребру c и сторонам основания a и b вычислить объем правильной усеченной четырех угольной призмы

Фраза "усеченная призма" в условии превращает задачу в бессмысленную. Видимо, имелась в виду усеченная пирамида, а не призма. В этом предположении и дано решение.

Формула объема правильной усеченной пирамиды равна : V = 1/3 * h*(B + d + Sqrt(B*d)) , где h - высота усеченной пирамиды  , B - Площадь большего основания , d - площадь меньшего основания .Диагонали основания равны : Sqrt(2a^2) = a*Sqrt(2) и Sqrt(2b^2) = b *Sqrt(2) . Высота h , отсюда равна : Sqrt(c^2 - ((a*Sqrt(2) - b*Sqrt(2)))/2)^2) Площади оснований соответственно равны : B = a^2  и d = b^2V = 1/3 *(Sqrt(c^2 - ((a*Sqrt(2) - b*Sqrt(2)))/2)^2 *(a^2 + b^2 +Sqrt(a^2 * b^2))