Здравствуйте, G-buck!
Переходим к изображениям:
x''(t) -> p^2X(p)-px(0)-x'(0)=p^2X(p)-p-1
x'(t) -> pX(p)-x(0)=pX(p)-1
y''(t) -> p^2Y(p)-p-1
y'(t)=pY(p)-1
1-2sint -> 1/p-2/(p^2+1)

p^2X(p)-p-1+pY(p)-1=0
p^2Y(p)-p-1+pX(p)-1=1/p-2/(p^2+1)

pX(p)+Y(p)=(2+p)/p=2/p+1
pY(p)+X(p)=1/p^2-2/(p^3+p)+2/p+1

Решение системы:
X(p)=1/(p^2(1-p^2))-2/(p(p^2+1)(1-p^2))+2/(p(1-p^2))-1/(1-p)=1/p^2+p/(p^2+1)
Y(p)=2/p+1-pX(p)=1+1/p-p^2/(p^2+1)=1/p+1/(p^2+1)

Возвращаемся к оригиналам:
x(t)=t+cost
y(t)=1+sint