Здравствуйте, Кузнецов Денис Геннадьевич!
Вашу задачу, если не ставить перед собой цель поупражняться в преобразовании координат, можно решить, например, так, как показано в приложении.
Проверьте, пожалуйста, выкладки...
С уважением.

Приложение:
Решение.Переходим к общепринятым обозначениям: ρ1=cosφ, ρ2=√2*cos(φ-π/4).Находим точки пересечения заданных кривых, решая уравнение ρ1=ρ2. Имеем:cosφ=√2*cos(φ-π/4),cosφ=cosφ+sinφ (по формуле, известной из школьного курса тригонометрии),sinφ=0, φ=0 – решение рассматриваемого уравнения на заданном интервале (-π/4; π/2), следовательно, заданные кривые пересекаются только в одной точке.В целях наглядности искомую площадь фигуры находим поэтапно:1) на интервале (-π/4; 0): - площадь фигуры, ограниченной кривой, заданной уравнением ρ1=cosφ, равнаS1=(1/2)*∫(от –π/4 до 0) ((cosφ)^2)*dφ=(1/2)*[(1/2)*cosφ*sinφ (от –π/4 до 0)+(1/2)*∫(от –π/4 до 0) cosφdφ]=(1/2)*[(1/2)*cosφ*sinφ (от –π/4 до 0)+(1/2)*sinφ (от –π/4 до 0)]=(1/2)*[(1/2)*sinφ*(cosφ+1) (от –π/4 до 0)]=(1/2)*(1/2)*[0-(-1/√2)*(1/√2+1)]=(1/4)*[(1/2)+(1/√2)]=[(1/8)+(1/(4*√2)]=(1+√2)/8 (кв. ед.);- площадь фигуры, ограниченной кривой, заданной уравнением ρ2=√2*cos(φ-π/4)=cosφ+sinφ, равнаS2=(1/2)*∫(от –π/4 до 0) (cosφ+sinφ)*dφ=(1/2)*[∫(от –π/4 до 0) cosφ*dφ+∫(от –π/4 до 0) sinφ*dφ]=(1/2)*(sinφ-cosφ) (от –π/4 до 0)=(1/2)*[(0-1)-((-1/√2)-(1/√2))]=(1/2)*(-1+2/√2)=(2-√2)/(2*√2)=(4*√2-4)/8 (кв. ед.);- разность между указанными площадями равна S2-S1=(4*√2-4)/8)-((1+√2)/8)=(3√2-5)/8, а ее абсолютная величина |S2-S1|=|(3√2-5)/8|≈0,095 (кв. ед);2) на интервале [0; π/2):- площадь фигуры, ограниченной кривой, заданной уравнением ρ1=cosφ, равнаS3=(1/2)*∫(от 0 до π/2) ((cosφ)^2)*dφ=(1/2)*[(1/2)*sinφ*(cosφ+1) (от 0 до π/2)]=(1/4)*[1*(0+1)-0]=1/2 (кв. ед.);- площадь фигуры, ограниченной кривой, заданной уравнением ρ2=√2*cos(φ-π/4)=cosφ+sinφ, равнаS4=(1/2)*∫(от 0 до π/2) (cosφ+sinφ)*dφ=(1/2)*(sinφ-cosφ) (от 0 до π/2)=(1/2)*[(1-0)-(0-1)]=1 (кв. ед.);3) разность между указанными площадями равна S4-S3=1-1/2=1/2 (кв. ед.);4) искомая площадь фигуры равна |S2-S1|+S4-S3=(5-3*√2)/8+1/2=(9-3*√2)/8≈0,595 (кв. ед.).Ответ: (9-3*√2)/8≈0,595 кв. ед.