Здравствуйте, Посетитель - 356695!
Составляем уравнение Эйлера F_y-d/dx(F_y')=0 (F(x,y,y')=4ycos x+y'²-y²)
4cos x-2y-d/dx(2y')=0
4cos x-2y-2y''=0
y''+y=2cos x (линейное уравнение с постоянными коэффициентами)
Решаем сначала однородное уравение. Составляем характеристическое уравнение [$955$]²+1=0.
Оно имеет корни [$955$]=[$177$]i, общее решение однородного уравнения y=C₁cos x+C₂sin x

Частное решение неоднородного уравнения ищем в виде y=x(Acos x+Bsin x). Подставляя в уравнение, находим
-2Asin x+2Bcos x=2cos x
A=0, B=1 ---> y=xsin x

Общее решение уравнения Эйлера (экстремали):
y=C₁cos x+C₂sin x+xsin x

Постоянные C₁ и C₂ находим из граничных условий:
y(0)=C₁=0
y(pi/4)=C₁/[$8730$]2+C₂/[$8730$]2+(pi/4)/[$8730$]2=0
Решая систему, находим C₁=0, C₂=-pi/4

Ответ: y=(x-pi/4)sinx