Дано уравнение кривой второго порядка : 7·x² - 8·y² + 8·x·y - 2·x + 40·y = 43 .
Привести уравнение кривой к каноническому виду, и Вычислить координаты фокусов в исходной системе координат.

Решение : Преобразуем немного уравнение кривой в вид 7·x² + 8·x·y - 8·y² - 2·x + 40·y - 43 = 0 согласно стандартному шаблону
A·x² + 2·B·x·y + C·y² + 2·D·x + 2·E·y + F = 0 , разработанному для решения задач аналитической геометрии.
Выберем коэффициенты A = 7 , B = 4 , C = -8 , D = -1 , E = 20 , D = -43 .
Работаем по методике, описанной в статье "Как привести уравнени линии второго порядка к каноническому виду?" ссылка1 )

Чтоб выяснить тип кривой, вычисляем определитель [$948$] = -72 (формулы и чертёж линии прилагаю ниже). Тк [$948$] [$8800$] 0 , значит наша линия входит в группу Центральных линий 2го порядка (эллипс, гипербола, …), и для решения предпочтительнее использовать Метод инвариантов.
Составляем систему из 3х уравнений, решаем её и получаем 2 группы корней для коэффициентов. При переходе из исходной системы координат xOy к новой системе координат uOv мы избавились от проблемного коэффициента B , а коэффициенты A , C , F заменены на соответствующие A2 , C2 , F2 .
Первая группа корней A2 = -9 ; C2 = 8 ; F2 = -2 даёт нам гиперболу -9·x² + 8·y² - 2 = 0 .
Стандартизуем её вид: -9·x² + 8·y² = 2 ==> -9·x² / 2 + 4·y² = 1 ==> y² / (1/4) - x² / (2/9) = 1 - что НЕ есть Канонический тип, и, значит, противоречит Условию задачи.

Вторая тройка корней A2 = 8 ; C2 = -9 ; F2 = -2 даёт нам гиперболу 8·x² - 9·y² - 2 = 0 , кот-ю удаётся преобразовать в Канонический вид:
4·x² - 9·y² / 2 = 1 ==> x² / (1/2)² - y² / (2/9) = 1 , что соответствует полуосям a = 1/2 и b = [$8730$]2 / 3 .
Чтоб не запутаться в 2х системах координат, заменим имена осей новой системы на u , v и запишем уравнение канонической гиперболы в виде
u² / a² - v² / b² = 1
Решение второй системы уравнений даёт нам координаты центра новой системы uO₂v относительно старой системы xOy :
O₂ = (-1 ; 2)
Решение, его проверка и графо-построение выполнены в приложении Маткад (ссылка2) . Маткад избавляет меня от частых ошибок. Маткад-скриншот прилагаю. Я добавил в него подробные комментарии зелёным цветом.

Ответ : u² / (1/4) - v² / (2/9) = 1 - каноническая гипербола с полуосями a = 1/2 , b = [$8730$]2 / 3 в системе координат uO₂v
с началом в точке O₂(-1 ; 2) (координаты старой системы), повёрнутой относительно исходной системы координат на угол [$945$] = 14° .
Координаты фокусов в исходной системе координат равны (-5/3 ; 11/6) и (-1/3 ; 13/6) .