Здравствуйте, Anjali.
Предположим, что b - a*a и ab не взаимно простые. То есть одно делится на другое. Например, b - a*a=n*a*b
b=a(nb+a)
a=b/(nb+a)
Получается, что b делится на a. Противоречие.
Или же n*( b - a*a)=ab
a(b+na)=nb
Но ни a, ни b+na не делятся на b, а выражение справа делится. Противоречие.

Здравствуйте, Anjali.
Пусть b-a² и ab - не взаимно-простые числа.
Тогда существует натуральное число k>1, такое что
b-a²=k*x (1)
a*b=k*y (2)
(эти равенства должны выполняться одновременно, x и y - натуральные числа).

Далее
a*b-a³=a*k*x
a*b=k*y

или
a³=k*y-a*k*x=k*(y-a*x).

Это возможно, либо когда k делится на a, либо когда (y-a*x) делится на a (либо оба одновременно делятся на a).

Если k делится на a, то из равенства (1) следует, что b-a² делится на a, следовательно, b делится на a, что невозможно (т.к. a и b, по условию, взаимно-простые числа). Полученное противоречие доказывает, что k на a не делится.

Рассмотрим случай, когда (y-a*x) делится на a. В этом случае y делится на a: y=m*a (m - натуральное число).
Тогда равенства (1) и (2) перепишутся в виде
b-a²=k*x
b=k*m

или
a²=k*(m-x). (3)

Т.к. k не делится на a, то (m-x), для того, чтобы выполнялось равенство (3), должно делится на a². Одновременно с этим, т.к. k>1, (m-x)<a². Т.е. (m-x) не может делится на a².

Полученное противоречие доказывает, что b-a² и a*b - взаимно-простые числа.

Что и требовалось доказать.