Здравствуйте, maddog92.

Обозначим: a – длина стороны правильного треугольника, лежащего в основании призмы; b – диагональ ромба. Выполним рисунок.



Поскольку грань ABB’A’, перпендикулярная к плоскости основания – треугольника ABC, является ромбом, то |AA’| = |AB| = a. Тогда по теореме косинусов
|BA’|² = |AB|² + |AA’|² – 2|AB||AA’|cos ∟BAA’,
или
b² = a² + a² – 2a²cos ∟BAA’,
откуда
cos ∟BAA’ = (2a² – b²)/(2a²) = 1 – b²/(2a²),
sin ∟BAA’ = √(1 – cos² ∟BAA’) = √(1 – (1 – b²/(2a²))²) = √(1 – (1 – b²/a² + b⁴/(4a⁴))) = √(b²/a² – b⁴/(4a⁴)) =
= √((b²/a²)(1 – b²/(4a²)) = (b/a)√(1 – b²/(4a²)). (1)

Находим координаты точек B, C, A’ в системе координат, показанной на рисунке: B(a, 0, 0), C(a/2, a√3/2, 0), A’(a ∙ cos ∟BAA’, 0, a ∙ sin ∟BAA’).

Находим объем параллелепипеда ABDCC’A’B’D’, полученного присоединением к заданной наклонной призме равновеликой призмы BCDD’B’C’, как смешанное произведение векторов AB, AC, AA’. Имеем:
AB = (a, 0, 0), AC = (a/2, a√3/2, 0), AA’ = (a ∙ cos ∟BAA’, 0, a ∙ sin ∟BAA’), V = {AB, AC, AA’} =


|a 0 0|
|a/2 a√3/2 0| =
|a ∙ cos ∟BAA’ 0 a ∙ sin ∟BAA’|

= a³ ∙ √3/2 ∙ sin ∟BAA’.

Искомый объем равен половине найденного объема параллелепипеда, т. е.
v = V/2 = a³ ∙ √3/4 ∙ sin ∟BAA’,
или, с учетом выражения (1),
v = a² ∙ √3/4 ∙ b√(1 – b²/(4a²)).

Ответ: a² ∙ √3/4 ∙ b√(1 – b²/(4a²)).

Рекомендую Вам проверить выкладки.

С уважением.