Здравствуйте, Helen!
Эта Ваша задача решается так же, как и предыдущая rfpro.ru/question/195121 . Она даже легче, потому что в прошлой задаче начинающие пользователи часто забывают задать фиктивные "начальные приближения" для всех неизвестных и получают ошибку (Маткад не может приступить к итерационным уточнениям, не получив начальную точку отсчёта). А в текущей задаче Вам задали "При x0=1, y0=2, z0=3" как начальные приближения в явном виде, и ошибка исключена.

Для разнообразия я добавил необязательный оператор ORIGIN:=1 , чтоб при передаче вычисленных значений из вектора в переменные отсчёт элементов начинался с 1 (привычнее для большинства людей, чем с 0). Можно и не передавать значения в переменные x , y , z , но тогда их значения останутся "начальными", а мы хотим сделать проверку.

В прошлой задаче с линейными уравнениями Вы могли задавать произвольные начальные приближения (хоть 0, хоть 100000…), и Маткад всё равно находил единственное решение. В этой задаче нелинейные уравнения имеют много решений в комплексных числах. Например замена операции y:=y0 на y:=-10 или на y:=-100 приводит к другим, новым решениям. И проверка всех их возвращает Успех!

Скриншот Маткад-окна с пояснениями и Маткад-файл прилагаю. Вопросы можете задавать в минифоруме.