если есть вопросы по решению, отвечу здесь же, в минифоруме... ;)

Столяров Кирилл Александрович:
Здравствуйте!

Вы получили точку локального экстремума (0;0) - это и будет минимумом функции.

Лиджи-Гаряев Владимир

спасибо за поправку! я и забыл про нее...

Столяров Кирилл Александрович:
Вопрос платный.
Рекомендую дать полный ответ в мини-форуме и попросить модератора внести исправления в форму ответа.

В ответе ошибся. Привожу правильный ответ:

z=5x^2-3xy+y^2+4
Находим частные производные:
z'x=10x-3y
z'y=2y-3x
Точки, в которых частные производные не существуют, отсутствуют.
Найдем стационарные точки, решая систему уравнений:

10x-3y=0;
{
2y-3x=0;

y=(3/2)x;
{
10x-3*(3/2)x=0;

y=0;
{
x=0;

Отсюда получаем точку (0;0). Точка принадлежит заданной области D.
Заданная функция в следующей точке: z(0;0)=4.
Рисуем координатную плоскость, на ней заданную область D, ограниченную 3-мя линиями: x=-1, y=-1, y=1-x. Получится треугольник с вершинами в точках (0;0), (2;-1) и (-1;2).
Исследуем функцию z на границе области D.
1. x=-1, y=[-1;2]:
z=5+3y+y^2+4=y^2+3y+9
z'y=2y+3
2y+3=0
y=-3/2
точка не принадлежит заданной области
z(-1)=1-3+9=7; z(2)=4+6+9=19.
2. y=-1, x=[-1;2]:
z=5x^2+3x+1+4=5x^2+3x+5
z'x=10x+3
10x+3=0
x=-3/10
z(-3/10)=5*9/100-9/10+5=(100-9)/20=91/20; z(-1)=5-3+5=7; z(2)=20+6+5=31.
3. y=1-x, x=[-1;2]:
z=5x^2-3x(1-x)+(1-x)^2+4=5x^2-3x+3x^2+1-2x+x^2+4=9x^2-5x+5
z'x=18x-5
18x-5=0
x=5/18
z(5/18)=9*25/324-25/18+5=-225/324+5=1395/324; z(-1)=9+5+5=19; z(2)=36-10+5=31.
Сравнивая полученные результаты, имеем:
наибольшее значение функции: z(2;-1)max=31
наименьшее значение функции: z(-1;-1)min=4

Лиджи-Гаряев Владимир
Спасибо за совет.

Столяров Кирилл Александрович:
Я только никак не пойму, зачем Вы ищете корни выражений функции по периметру области. По-моему, надо искать и проверять на минимум/максимум (при условии попадания в область) корни производных этих выражений.

Химик CH:
спасибо, я исправил.