Здравствуйте, Annettik.
4) Нужно указать чему равен верхний предел интегрирования b. Без этого задау решить нельзя.

5)По условию y(pi/2)=1

Подставляя в уравнение x=pi/2, находим
y’(pi/2) =y(pi/2)*sin(pi/2)=1*1=1

Дифференцируя уравнение по x, получаем
y''=y'*sin x+y*cos x
подставляя сюда x=pi/2 и учитывая найденные значения y(pi/2) и y’(pi/2), получаем
y''(pi/2)=y’(pi/2)*sin(pi/2)+y(pi/2)*cos(pi/2)=1*1+1*0=1

Степенной ряд имеет вид y(pi/2)+y'(pi/2)(x-pi/2)+0.5y''(pi/2)(x-pi/2)^2, таким образом
y(x) ---> 1+(x-pi/2)+0.5(x-pi/2)^2

6) Полупериод l=pi/3; период T=2pi/3; тригонометрическая система имеет вид:
{cos3nx;sin3nx}
Так как функция четна, то все коэффициенты по синусам b_n=0, а коэффициенты по косинусам
a_n=(2/l)Int_0^(l)F(x)cos3nxdx=(6/pi)Int_0^(pi/3)cos(3x/2)cos3nxdx
При n=0 получаем
a_0=(6/pi)Int_0^(pi/3)cos(3x/2)dx=(4/pi)sin(3x/2)_0^(pi/3)=4/pi
При n>0
a_n=(6/pi)Int_0^(pi/3)cos(3x/2)cos3nxdx=(3/pi)Int_0^(pi/3)[cos(3n+3/2)x-cos(3n-3/2)x]dx=
(3/pi)[sin(3n+3/2)x/(3n+3/2)+sin(3n-3/2)x/(3n-3/2)]_0^(pi/3)=
(3/pi)[sin(pi*n+pi/2)/(3n+3/2)+sin(pi*n-pi/2)/(3n-3/2)]=
(3/pi)[(-1)^n/(3n+3/2)-(-1)^n/(3n-3/2)]=4(-1)^n/(4n^2-1)
Таким образом
F(x) --->(2/pi)+4SUM_(n=1)^(бескон.)[(-1)^n/(4n^2-1)]cos3nx