Приложение Маткад ответило, что Ваша система уравнений НЕ имеет действительных корней.
В хорошо-поданном видео-уроке РешениеСистемАлгебраичУравненй рекомендовано : "Когда действительных корней нет, начальное приближение надо задавать в комплексном виде".

Задаём начальное приближение x:=i , а y:=0
Под ключевым словом given вписываем Вашу систему.
Функция Find(x,y) мигом возвращает решение в виде вектора. В нём верхнее значение : 0.403+0.104i - это для x, нижнее значение 0.589+0.062i - это для y.

Но мы хотим проверить верность решения. Поэтому присваиваем значение Find-функции вектору V .
Из вектора V извлекаем скаляры x и у :
x:=V0 , y:=V1
Проверяем решение подстановкой числовых значений в левую и правую части одного из уравнений.
Скриншот Маткад.14 с пояснениями прилагаю.

Спасибо большое что разъяснили, мне матпакеты тоже выдавали решения в виде вектора, просто я не мог понять что это, а по условиям задачи, решением должно быть просто число.
Сейчас напишу авторам, скорее всего они чего-то напутали.

Поскольку мы с Вами - НЕ математики, не торопитесь упрекать авторов задачи. МатКад и проч мат-проги ищут итераци-решения в области начальных приближений. Я тыкнул в область x=y=0 - решения нету. Но надо понимать что решени отсутствует т-ко в ЭТОЙ области. Я назначил x:=i - этим я включил режим обработки комплексных чисел, и Маткад нашёл решение, ближайшее к началу координат-оси.

Я смутно помню со школы : сколько степеней у аргументов, столько надо искать возможных решений (в квадратном x-уравнении 2 степени - 2 корня). У Вас 2 степени у x-аргума и 2 степени у y-аргума.

Я не знаю, в какой мат-проге Вы работаете? Но думаю, надо поиграть с попытками заданий других областей начальных приближений (x:= +100 , y:=-0.01i)…

Также полезно заменить, что левые части сис-уравнений равны. Значит, можно по-анализировать новое уранение, составленное из правых частей исходных уравнений. =Удачи!

Да я и не собирался упрекать авторов! )))
Просто указал им на то, что не могу решить задачу простым путем.
Подожду что ответят, правда отвечать они могут больше недели, если интересно могу ответ скинуть сюда.
---
Для решений я пользовался сайтом: https://www.wolframalpha.com/
Вот так он решает уравнение

Вы нашли супер-сайт! Он показал Вам все 4 корня системы! Спасибо за наводку!
Скоро можно будет не изучать математику, а получать все решения с умных сайтов!