Здравствуйте, STASSY.

Идея решения заключается в использовании формулы Эйлера cos θ = 1/2 ∙ (exp (iθ) + exp (-iθ)).

Выполним необходимые преобразования:
S = 1/2 ∙ [exp (iφ) + a ∙ exp (2iφ) + a^2 ∙ exp (3iφ) + … + a^(n – 1) ∙ exp (niφ) + exp (-iφ) + a ∙ exp (-2iφ) +
+ a^2 ∙ exp (-3iφ) + … + a^(n – 1) ∙ exp (-niφ)] = 1/2 ∙ {[exp (iφ) ∙ (a^n ∙ exp (niφ) – 1)]/[a ∙ exp (iφ) – 1] +
+ [exp (-iφ) ∙ (a^n ∙ exp (-niφ) – 1)]/[a ∙ exp (-iφ) – 1]}= (промежуточные выкладки опускаем) =
= 1/2 ∙ {[exp (iφ) + exp (-iφ) + a^(n + 1) ∙ (exp (niφ) + exp (-niφ)) – a^n ∙ (exp ((n + 1)iφ + exp (-(n + 1)iφ) – 2a]/
/[a^2 – a ∙ (exp (iφ) + exp (-iφ)) + 1]}= [cos φ + a^(n + 1) ∙ cos nφ – a^n ∙ cos (n + 1)φ – a]/[a^2 – 2a ∙ cos φ + 1].

То есть
S = [cos φ + a[sup]n + 1[/sup] ∙ cos nφ – a[sup]n[/sup] ∙ cos (n + 1)φ – a]/[a[sup]2[/sup] – 2a ∙ cos φ + 1].

Опущенные выкладки заключаются в сложении дробей, группировке слагаемых и применении формулы Эйлера…

С уважением.

Здравствуйте, STASSY.
Другой вариант с использованием формулы Муавра и суммированием геометрической прогрессии: