Здравствуйте, karkot.
Радиус окружности, описанной около нижнего (большего) основания
R₀=a/(2*sin(180/n))=a
(n=6 т.к. основание - шестиугольник).

Аналогично радиус окружности, описанной около верхнего (меньшего) основания
R₁=b.

Радиус окружности, вписанной в нижнее основание
r₀=R₀*cos(180/n)=a*([$8730$]3)/2.

Радиус окружности, вписанной в верхнее основание
r₁=R₁*cos(180/n)=b*([$8730$]3)/2.

Площадь нижнего основания
S₀=p₀*r₀ = a * (n/2) * a*([$8730$]3)/2 = 3*a²*([$8730$]3)/4
(где p₀ - полупериметр нижнего основания).

Площадь верхнего основания
S₁=p₁*r₁ = 3*b²*([$8730$]3)/4
(где p₁ - полупериметр верхнего основания).

Далее рассмотрим трапецию OO₁B₁A₁, изобрженную на рисунке



(O и O₁ - центры оснований). Заметьте, что на рисунке обозначены не все вершины данной усеченной пирамиды (по мнению автора в этом нет особой необходимости).

OO₁=H - высота пирамиды,
O₁B₁=R₁ - радиус окружности, описанной около верхнего основания,
OA₁=R₀ - радиус окружности, описанной около нижнего основания,
[$8736$]OA₁B₁=30[$186$] (по условию задачи).

Из рисунка



видно, что
H=(R₀-R₁)*tg(30[$186$]) = (a-b)/[$8730$]3.

Объем усеченной пирамиды
V=H*(S₀+[$8730$](S₀*S₁)+S₁)/3 = (a-b)*(a²+a*b+b²)/4.

Приложение:
Формула объема усеченной пирамиды
http://geometr.info/geometriia/piramida/piramida6.html