Здравствуйте, Максим!
Приведем расширенную матрицу к треугольному виду:
(2 -1 5 | 4)
(5 2 13 | 2) ~
(3 -1 5 | 0)

(2 -1 5 | 4)
(0 -9 -1 | 16) ~
(0 -1 5 | 12)

(2 -1 5 | 4)
(0 -9 -1 | 16)
(0 0 -46 | -92)
Ранги обычной и расширенной матрицы совпадают и равны размерности матрицы, поэтому система совместима.
1
Первое уравнение переписываем, второе умножаем на 0,4 и вычитаем из первого, третье умножаем на 2/3 и вычитаем из первого:
2x1-x2+5x3=4
-1,8x2-0,2x3=3,2
-x2/3+5x3/3=4
Два уравнения переписываем, третье умножаем на -5,4 и слагаем с вторым:
2x1-x2+5x3=4
-1,8x2-0,2x3=3,2
-9,2x3=-18,4

x3=2
-1,8x2-0,4=3,2 -> x2=-2
2x1+2+10=4 -> x1=-4
2
Находим определитель det A=
|2 -1 5|
|5 2 13|=20-25-39-30+26+25=-23
|3 -1 5|
Элементы матрицы алгебраических дополнений:
ax11=10-(-13)=23; ax12=-(25-39)=14; ax13=-5-6=-11
ax21=-(-5+5)=0; ax22=10-15=-5; ax23=-(-2-(-3))=-1
ax31=-13-10=-23; ax32=-(26-25)=-1; ax33=4-(-5)=9
Обратная матрица:
(-1 0 1)
(-14/23 5/23 1/23)
(11/23 1/23 -9/23)

(-1 0 1)
(-14/23 5/23 1/23)*
(11/23 1/23 -9/23)

(4)
(2)=
(0)

(-4+0+0=-4)
(-56/23+10/23+0=-2)
(44/23+2/23=2)
x1=-4; x2=-2; x3=2