Здравствуйте, oligator.a.y !
Даны: Векторное поле a^[$8594$] = 5·(x² - y²)·i^[$8594$] + 6·(y² - z²)·j^[$8594$] + 9·(z² - x²)·k^[$8594$] и замкнутая поверхность S ,
ограниченная плоскостями Z₁ = 4 , Z₂ = 8 и вертикальной трубой x² + y² = 49 .
Вычислить Поток векторного поля через замкнутую поверхность S в направлении внешней нормали.

Решение начинаем с чертежа (прилагаю). На рис1 видим, что заданную замкнутую поверхность S можно квалифицировать как цилиндр, расположенный в первых 4х октантах 3х-мерной системы координат OXYZ (см ru.wikipedia.org/wiki/Октант (Ссылка) ).
Боковая поверхность нашего цилиндра - это вертикально-расположенная круглая труба, у кот-й ось находится на аппликате OZ . Проекция трубы на плоскость XOY задана уравнением
x² + y² = 49 = R² (см рис2). Значит, радиус цилиндра R = 7 ед, а высота h = Z₂ - Z₁ = 4 .

Теория и методика решения хорошо описаны в учебной статье "Как вычислить поток векторного поля?" Ссылка2 . Не будем терять время на повторение и переходим к практическим вычислениям.

Используя свойство аддитивности поверхностного интеграла, представим искомый Поток векторного поля в виде суммы 4х поверхностных интегралов по ориентированным поверхностям цилиндра:
П = П₁ + П₂ + П₃ + П₄ , где
П₁ = _[$963$]1[$8748$]a^[$8594$](x ; y ; z)·d[$963$]₁ - поток векторного поля ч-з верхнюю крышку цилиндра с поверхностью [$963$]₁
и нормаль-вектором n^[$8594$]₁ = k^[$8594$](0 ; 0 ; 1) (направлен вертикально вверх);

П₂ = _[$963$]2[$8748$]a^[$8594$](x ; y ; z)·d[$963$]₂ - поток векторного поля ч-з нижнюю крышку цилиндра с поверхностью [$963$]₂
и нормаль-вектором n^[$8594$]₂ = -k^[$8594$](0 ; 0 ; -1); (направлен вертикально вниз);

П₃ = _[$963$]3[$8748$]a^[$8594$](x ; y ; z)·d[$963$]₃ - поток векторного поля ч-з боковую поверхность [$963$]₃ в первом и втором октантах
и нормаль-вектором n^[$8594$]₃ , направленным горизонтально прочь от оси цилиндра;

П₄ = _[$963$]3[$8748$]a^[$8594$](x ; y ; z)·d[$963$]₃ - поток векторного поля ч-з боковую поверхность [$963$]₄ в 3м и 4м октантах
и нормаль-вектором n^[$8594$]₄ , направленным также горизонтально прочь от оси цилиндра, но с противоположным знаком.

Решение Вашей задачи настолько трудоёмкое, что выполнить его без помощи программ-калькуляторов я не в состоянии. Вы можете использовать OnLine-калькуляторы, я люблю вычислять в популярном приложении Маткад (ссылка3) . Маткад избавляет меня от частых ошибок. Маткад-скриншоты с формулами прилагаю.

Я добавил в скрин подробные комментарии зелёным цветом, чтобы Вам было всё понятно.
МаткадОператор stack(A, B, C, …) объединяет числовые данные в вектор-столбец.
Символ := означает оператор присваивания. Символ = - вывести на экран в числовом виде. Символ [$8594$] - вывести на экран в символьном виде (имена переменных с операндами либо в виде простой, неокруглённой дроби).

Ответ: Поток векторного поля через замкнутую поверхность S в направлении внешней нормали равен 21168·[$960$] [$8776$] 66501 кв.ед.
Проверка упрощённая сделана. Если что-то осталось непонятным - спрашивайте.