Здравствуйте, alya_koshka!
Предлагаю Вам решение системы дифференциальных уравнений.
Продифференцируем первое уравнение по t. Получим
x''=x'-3y'. Теперь при помощи второго уравнения заменим y' на 3x+y и получим x''=x'-9x-3y. Из первого уравнения имеем 3y=x-x'. Подставим это в полученное уравнение: x''=x'-9x+x'-x; откуда получим уравнение x''-2x'+10x=0. Это однородное уравнение с постоянными коэффициентами. Составляем характеристическое уравнение: r[sup]2[/sup]-2r+10=0, откуда r[sub]1[/sub]=1+3i, r[sub]2[/sub]=1-3i. Общее решение уравнения запишется в виде
x(t)=e[sup]t[/sup](C[sub]1[/sub]cos 3t+C[sub]2[/sub]sin 3t).
Теперь подставив полученное решение в первое уравнение, получим y=x/3-x'/3=e^t(C₁cos 3t+C₂sin 3t)/3-
-e^t(C₁cos 3t+C₂sin 3t)/3-e^t(3C₂cos 3t-3C₁sin 3t)/3=
=e[sup]t[/sup](-C[sub]2[/sub]cos 3t+C[sub]1[/sub]sin 3t).
Используем теперь начальные условия: x(0)=1 -> C₁=1; y(0)=2 -> C₂=-2
Итак, получим частное решение системы уравнений:
x(t)=e[sup]t[/sup](cos 3t-2sin 3t),
y(t)=e[sup]t[/sup](2cos 3t+sin 3t).

Здравствуйте, alya_koshka!
Решение первого уравнения:
y'=(x+3y)/(3x-y) (однородное уравнение)

Переходим к переменной z=y/x ---> y=zx
z'x+z=(x+3zx)/(3x-zx)
z'x+z=(1+3z)/(3-z)
z'x=(1+3z)/(3-z)-z
z'x=(1+z²)/(3-z)
(3-z)dz/(1+z²)=dx/x

После интегрирования получаем
3arctg z-0.5ln(1+z²)=ln|x|+const

Возвращаясь к переменной y, получаем
3arctg(y/x)-0.5ln((x²+y²)/x²)=ln|x|+const
3arctg(y/x)-0.5ln((x²+y²)+ln|x|=ln|x|+const
3arctg(y/x)-0.5ln(x²+y²)=const
Ответ: 3arctg(y/x)-0.5ln(x²+y²)=C

Здравствуйте, alya_koshka!

Рассмотрим первое уравнение.

Пусть (3x - y)y´= x + 3y. Выполним следующие преобразования этого уравнения:
(3x - y)dy = (x + 3y)dx,
(x + 3y)dx - (3x - y)dy = 0. (1)
Получили уравнение вида P(x, y)dx + Q(x, y)dy = 0, где P(x, y) = x + 3y, Q(x, y) = 3x - y.

При этом
P(ax, ay) = ax + 3ay = a(x + 3y) = aP(x, y),
Q(ax, ay) = 3ax - ay = a(3x - y) =aQ(x, y),
следовательно, P(x, y) и Q(x, y) - однородные функции первого измерения, а уравнение (1) (а с ним и исходное уравнение) - однородное дифференциальное уравнение.

Положим y = ux. Тогда dy = xdu + udx, и из уравнения (1) получим
(x + 3ux)dx - (3x - ux)(xdu + udx) = 0,
xdx + 3uxdx - 3x²du - 3uxdx + ux²du + u²xdx = 0,
xdx + u²xdx - 3x²du + ux²du = 0,
x(u² + 1)dx - x²(3 - u)du = 0,
x(u² + 1)dx = x²(3 - u)du,
dx/x = (3 - u)/(u² + 1) ∙ du. (2)

Так как
∫dx/x = ln |x| (постоянную интегрирования опускаем),
∫(3 - u)/(u² + 1) ∙ du = 3∫du/(u² + 1) - ∫udu/(u² + 1) = 3∫du/(u² + 1) - 1/2 ∙ ∫2udu/(u² + 1) = 3∫du/(u² + 1) - 1/2 ∙ ∫d(u² + 1)/(u² + 1) =
= 3 ∙ arctg u - 1/2 ∙ ln (u² + 1) (постоянную интегрирования опускаем),
то после интегрирования уравнения (2) получим
∫dx/x = ∫(3 - u)/(u² + 1) ∙ du,
ln |x| = 3 ∙ arctg u - 1/2 ∙ ln (u² + 1) + C,
ln |x| - 3 ∙ arctg u + 1/2 ∙ ln (u² + 1) = C,
ln |x| - 3 ∙ arctg (y/x) + 1/2 ∙ ln ((y/x)[sup]2[/sup] + 1) = C - общий интеграл исходного уравнения.

С уважением.