При помощи одной прокси это вряд ли получиться. Выход делать две прокси: одну для торрента, другую для всего остального. В торрент-клиенте прописываете одну проксю, во всех остальных программах - вторую. В качестве торрент-прокси можно юзать и не керио, а какую-нибудь простую и бесплатную проксю, к примеру AnalogX Proxy