Здравствуйте, Detsle!

Смотрите приложение.

Приложение:
Запишем систему в виде матрицы 4*6 (последний столбец - свободные члены):

0 2 -3 -1 -1 -5
3 5 1 6 9 -1
3 1 6 7 10 8
3 5 -1 4 7 -3

Верхний элемент левого столбца равен 0, поэтому меняем первую строку со второй, где нет нуля в этом столбце (третья или четвертая тоже подошли бы):

3 5 1 6 9 -1
0 2 -3 -1 -1 -5
3 1 6 7 10 8
3 5 -1 4 7 -3

Делим первую строку на элемент первого столбца (то есть на 3):

1 5/3 1/3 2 3 -1/3
0 2 -3 -1 -1 -5
3 1 6 7 10 8
3 5 -1 4 7 -3

Теперь вычитаем первую строку из всех последующих, умножая ее на элемент первого столбца соответствующей строки (для третьей и четвертой - на 3, для второй - на 0, то есть вычитать не надо):

1 5/3 1/3 2 3 -1/3
0 2 -3 -1 -1 -5
0 -4 5 1 1 9
0 0 -2 -2 -2 -2

Повторяем то же самое для второго столбца и второй строки. То есть делим вторую строку на элемент второго столбца (2):

1 5/3 1/3 2 3 -1/3
0 1 -3/2 -1/2 -1/2 -5/2
0 -4 5 1 1 9
0 0 -2 -2 -2 -2

и вычитаем из всех последующих, умножая ее на соответствующий элемент второго столбца:

1 5/3 1/3 2 3 -1/3
0 1 -3/2 -1/2 -1/2 -5/2
0 0 -1 -1 -1 -1
0 0 -2 -2 -2 -2

Повторив то же самое в третий раз, получим

1 5/3 1/3 2 3 -1/3
0 1 -3/2 -1/2 -1/2 -5/2
0 0 1 1 1 1
0 0 0 0 0 0

то есть верхнюю треугольную матрицу. Теперь идем в обратную сторону. Четвертая строка нулевая, поэтому переходим сразу к третьей.
Вычитаем ее из всех предыдущих, умножая на соответствующий элемент третьего столбца (чтобы в нем получились нули):

1 5/3 0 5/3 8/3 -2/3
0 1 0 1 1 -1
0 0 1 1 1 1
0 0 0 0 0 0

Так же поступаем и со второй строкой:

1 0 0 0 1 1
0 1 0 1 1 -1
0 0 1 1 1 1
0 0 0 0 0 0

Если бы получилась единичная матрица, то в столбце свободных членов было бы решение системы (единственное). В данном же случае будет бесконечно много решений с двумя свободными переменными и тремя зависимыми:

x1 = 1 - x5;
x2 = -1 - x4 -x5;
x3 = 1 - x4 - x5;
x4, x5 - свободные переменные.
В частности, при x4 = x5 = 0 получаем базисное решение (1,-1,1,0,0).