Здравствуйте, Виктор!
Для решения предложенной Вам задачи я воспользовался примером здесь:
Ссылка >>.
Определим матрицу перехода от базиса
к базису
Запишем координаты векторов в виде строк матрицы и приведём полученную матрицу к ступенчатому виду. Справа от матрицы указываются векторы и регистрируются проводимые преобразования матрицы (получилось не очень удачно из-за особенностей редактора формул портала).
Нулевым строкам ступенчатого вида матрицы соответствуют равенства
Из этих равенств получим, что
Записав коэффициенты полученного разложения в виде столбцов, получим искомую матрицу перехода
Об авторе:
Facta loquuntur.