r=3

-x+5x4-12x5=0
X5=0
X3-3x4+7x5=-x1+2x2
Уравнение получила из последней матрицы
Уравнение надо решить ?

указать базис пространства решений системы однородной системы, установить размерность пространства

-1..5..-12
0..0..1
1..-3..7

размерность это 3 , а базис x5 ?

Предположим, Вы собираетесь определить размерность пространства решений этой системы. Что это такое? Как её вычислить?

Размерность пространства решений системы (1) равна n − r , где n — число неизвестных в системе, а r — ранг основной матрицы системы.

3x5?

n-5,r-3 ?

2 ?

5-3=2

Получили соотношения, выражающие зависимые переменные x3,x4,x5 через свободные x1,x2, то есть нашли общее решение:
x5 = 0
x4 = - 1/2x1 + x2
x3 = - 5/2x1 + 5x2
Находим фундаментальную систему решений, которая состоит из (n-r) решений.
В нашем случае n=5, r=3, следовательно, фундаментальная система решений состоит из 2-х решений, причем эти решения должны быть линейно независимыми.
Достаточно придать свободным неизвестным x1,x2 значения из строк определителя 2-го порядка, отличного от нуля, и подсчитать x3,x4,x5.
Простейшим определителем, отличным от нуля, является единичная матрица.
1,0
0,1

указать базис пространства решений системы однородной системы

Теперь устанавливайте базис. Но чтобы не делать ошибок, прочитайте внимательно пример решения здесь. Посмотрите, в чём разница между этим примером и рассматриваемой нами системой уравнений. Прочитайте также внимательно это.

Закончите решение самостоятельно и обоснуйте. После этого сообщите, что у Вас получилось.

Базис может же быть таким ?
1..0..0
0..1..0
0..0..1

1..-2..1..-3..7|0
0..0..-4..20..48|0
0..0..0..0..0|0

Базис x1(2...0)
X2(-2...5)
X1(5...-12)

X1+x3=2c1+3c2-7c3
-x3=5c2+12c3

X1=2c1-2c2+5c3
X3=5c2-12c3 (можно так оставить ? Я не знаю как сократить )
Базисные переменные это x3 x4 и x5 ?
Нашла по примеру которую вы дали

X1 x2 это свободные