Здравствуйте, Алексей Т.!

2 задание.
Попробуем решить систему методом Гаусса (и заодно выясним, совместна ли система уравнений).

1 5 3 -4 | 20
3 1 -2 0 | 9 ~
5 -7 0 10 | -9
0 3 -5 0 | 1

умножим первую строку сначала на (-3) и прибавим ко второй, потом умножим на (-5) и прибавим к третьей

1 5 3 -4 | 20 1 5 3 -4 | 20
~ 0 -14 -11 12 | -51 ~ 0 3 -5 0 | 1 ~
0 -32 -15 30 | -109 0 32 15 -30 | 109
0 3 -5 0 | 1 0 14 11 -12 | 51

умножим вторую строку сначала на (-11) и прибавим к третьей строке, потом умножим на (-5) и прибавим к четвёртой

1 5 3 -4 | 20 1 5 3 -4 | 20
~ 0 3 -5 0 | 1 ~ 0 -1 70 -30 | 98 ~
0 -1 70 -30 | 98 0 3 -5 0 | 1
0 -1 36 -12 | 46 0 -1 36 -12 | 46

умножим вторую строку сначала на 3 и прибавим к третьей, потом на (-1) и прибавим к четвёртой

1 5 3 -4 | 20 1 5 3 -4 | 20
~ 0 -1 70 -30 | 98 ~ 0 1 -70 30 | -98 ~
0 0 205 -90 | 295 0 0 41 -18 | 59
0 0 -34 18 | -52 0 0 17 -9 | 26

умножим четвёртую строку на (-2) и прибавим к третьей

1 5 3 -4 | 20 1 5 3 -4 | 20
~ 0 1 -70 30 | -98 ~ 0 1 -70 30 | -98 ~
0 0 7 0 | 7 0 0 1 0 | 1
0 0 17 -9 | 26 0 0 17 -9 | 26

умножим третью строку на (-17) и прибавим к четвёртой

1 5 3 -4 | 20 1 5 3 -4 | 20
~ 0 1 -70 30 | -98 ~ 0 1 -70 30 | -98 ~
0 0 1 0 | 1 0 0 1 0 | 1
0 0 0 -9 | 9 0 0 0 1 | -1

видим, что ранг матрицы A и ранг расширенной матрицы A|B совпадают (они равны 4), значит, система имеет решение;
умножим четвёртую строку сначала на (-30) и прибавим ко второй, потом на 4 и прибавим к первой

1 5 3 0 | 16
~ 0 1 -70 0 | -68 ~
0 0 1 0 | 1
0 0 0 1 | -1

умножим третью строку сначала на 70 и прибавим ко второй, потом на (-3) и прибавим к первой

1 5 0 0 | 13
~ 0 1 0 0 | 2 ~
0 0 1 0 | 1
0 0 0 1 | -1

последний шаг: умножим вторую строку на (-5) и прибавим к первой

1 0 0 0 | 3
~ 0 1 0 0 | 2
0 0 1 0 | 1
0 0 0 1 | -1

Ответ: x1=3, x2=2, x3=1, x4=-1.