Здравствуйте, anton74551!

Найдем в общем виде решение системы:
x = y² + a*y + b
y = x² + a*x + b

Вычтем уравнения:
x - y = y² - x² + a*(y - x)
После очевидных преобразований:
(x - y)*(x + y + a + 1) = 0. (1)
Умножим первое из исходных уравнение на y, второе - на x:
xy = y³ + a*y² + b*y
xy = x³ + a*x² + b*x
Вычтем одно из другого:
x³ - y³ + a*(x² - y²) + b*(x - y) = 0
После преобразований получим:
(x - y)*(x² + x*y + y² + a*(x + y) + b) = 0. (2)

Система уравнение (1), (2) равносильна исходной.
Она удовлетворяется, если
1) x = y
или
2) x + y + a + 1 = 0
x² + x*y + y² + a*(x + y) + b = 0.

В первом случае достаточно решить уравнениe для x:
x² + (a - 1)*x + b = 0. (3)
В результате получим:
x_1,2 = y_1,2 = -(a - 1)/2 [$177$][$8730$]((a-1)²/4 - b)

Рассмотрим второй случай. Преобразуем:
x + y = - a - 1
(x + y)² - x*y + a*(x + y) + b = 0
Подставляем x + y из первого уравнения во второе:
(a + 1)² - x*y - a*(a + 1) + b = 0,
x*y = a² + 2*a + 1 - a^2 - a + b
В результате получаем систему:
x + y = -a - 1
x*y = a + b + 1
Ее решениями являются решения квадратного уравнения:
u² + (a+1)*u + a + b + 1 = 0,
корни которого
u_1,2 = -(a+1)/2 [$177$][$8730$]((a+1)²/4 - a - b - 1) (4)

Для пар х и y получим два решения:
x₁ = -(a+1)/2 + [$8730$]((a+1)²/4 - a - b - 1)
y₁ = -(a+1)/2 - [$8730$]((a+1)²/4 - a - b - 1)

x₂ = -(a+1)/2 - [$8730$]((a+1)²/4 - a - b - 1)
y₂ = -(a+1)/2 + [$8730$]((a+1)²/4 - a - b - 1)

Количество решений исходной системы зависит от дискриминантов
квадратных уравнений (3), (4):
D₁ = (a-1)² - 4*b
D₂ = (a+1)² - 4*(a + b + 1),
Четыре решения получаются, когда оба дискриминанта положительны,
в частности, при a = 0, b = -2 (см. минифорум).

Надеюсь, нигде не ошибся. Но лучше внимательно проверить.

Здравствуйте, anton74551!

Пусть дана система уравнений

Уравнение (2) при помощи тождественных преобразований можно привести к виду

где

- координаты вершины параболы, которая получается из параболы

при её параллельном переносе. Парабола имеет вертикальную ось симметрии, а её ветви направлены вверх.
Аналогично, уравнение (1) при помощи тождественных преобразований можно привести к виду

где

- координаты вершины параболы, которая получается из параболы

при её параллельном переносе. Парабола имеет горизонтальную ось симметрии, а её ветви направлены вправо.

Решение заданной системы уравнений можно трактовать как вычисление координат точек пересечения двух парабол. Если изобразить на координатной плоскости графики парабол (3) и (4), то можно увидеть, что параболы пересекаются в двух точках. Если же параболу (3) перенести на две единицы вниз, а параболу (4) - на две единицы влево, то параболы будут пересекаться уже в четырёх точках. Значит, примером ко второй части Вашего задания может быть система уравнений

или эквивалентная ей система

с параметрами


Что касается исследования количества решений исходной системы уравнений в зависимости от чисел то ограничусь следующим.

Запишем теперь исходную систему уравнений так:

где

После подстановки выражения для из уравнения (6) в уравнение (7) получим





Попробуйте продолжить исследование дальше самостоятельно.

С уважением.