Здравствуйте, Ивановко!

1. Находим стационарные точки, расположенные в указанной области, и вычисляем значения функции в этих точках. Частные производные функции z: z’ (по x)=3x^2-9y, z’ (по y)=3y^2-9x. Приравнивая нулю полученные выражения производных (необходимые условия экстремума!), получим систему двух уравнений: 3x^2-9y=0, 3y^2-9x=0. Решениями этой системы являются точки M1(0; 0) и M2(3; 3). Обе точки принадлежат заданной области D, z(0; 0)=-25, z(3; 3)=3^3+3^3-9*3*3-25=-52,

2. Находим наибольшее и наименьшее значения функции на границе области, состоящей из отрезков AB, BC, CD, DA, где A(0; 0) (совпадает с точкой M1), B(5; 0), C(5; 5), D(0; 5):
2.1) На отрезке AB y=0, z=x^3-25, z’=3x^2=0 при x=0, z(0)=z(A)=-25, z(B)=z(5)=5^3-25=100;
2.2) На отрезке BC x=5, z=y^3-45y+100, z’=3y^2-45=0 при y=sqrt(15) (y=-sqrt(15) отрезку BC не принадлежит), z(sqrt(15))=15*sqrt(15)-45*sqrt(15)+100=30*sqrt(15)+100≈216, z(B)=z(0)=100, z(C)=z(5)=5^3-45*5+100=0;
2.3) На отрезке CD y=5, z=x^3-45x+100, z’=3x^2-45=0 при x=sqrt(15), z(sqrt(15))≈216, z(C)=z(5)=0, z(D)=z(0)=100;
2.4) На отрезке DA x=0, z=y^3-25, z’=3y^2=0 при y=0, z(0)=z(A)=-25, z(5)=z(D)=5^3-25=100.

3. Сравнивая полученные в пунктах 1, 2 значения функции, устанавливаем, что z min=z(3; 3)=-52, z max=z(5; sqrt(15))=z(sqrt(15); 5)=30*sqrt(15)+100≈216.

Ответ: z min=-52, z max=30*sqrt(15)+100≈216.