Здравствуйте, Stanislav Bolshakov!
Область интегрирования представляет собой четвертинку верхней части шара.
Перейдём к цилиндрическим координатам:
Якобиан равен
.
В таких координатах пределы интегрирования понятны: z меняется от 3 до 5,
от 0 до
а r:
.
Так что искомый интеграл в новых координатах