Здравствуйте, Лилия!
Уравнение y' =a(x)y + b(x) = 0, (1)
где a(x) = -2x/(1+x²) , b(x) = -3(1+x²)², y(1) = 1.
Ищем решение в виде y = u*v
u'v + uv' + auv + b = 0, где v удовлетворяет уравнению
v'+av = 0, v(1) = 1. (1)
Для u получим уравнение u'v + b = 0,
u' = -b/v, u(1) = 1. (2)
Решаем уравнение (1):
v'/v = 2x/(1+x²),
dv/v = 2xdx/(1+x²) = d(1+x²)/(1+x²).
Интегрируем:
ln(v) = ln(1+x²)+lnC ,
v = C*(1+x²).
Из условия v(1) = 1 находим С=1/2.
Для u получим уравнение:
u' = 6 + 6x². Интегрируем:
u = 6x + 2x³+ C.
Из условия u(1) = 1 получим C = -7.
В результате имеем:
y = uv = (x³ + 3x - 7/2)*(1+x²) (Ответ).

Проверим, что y(x) удовлетворяет уравнению (1).
Раскроем скобки и продифференцируем:
y =x⁵ +4x³ - (7/2)x² + 3x -7/2,
y' = 5x⁴ + 12x² -7x +3,
a*y = -2x*(x³ + 3x - 7/2) = -2x⁴ -6x² +7x,
y' + ay + b = 3x⁴+6x² +3 - 3(1+x²)² = 0.