Здравствуйте, Abdu!
Если Вас интересуют различия в плане аппаратного обеспечения, то серверы стоятся на базе других платформ, надежных, рассчитанных на постоянную работу. Это в несколько раз более дорогое оборудование чем у обычных PC.
Но я не стану описывать здесь технические детали. Дело в том что сервером может работать и обычный компьютер, если установить на нем соответствующее ПО и постоянно держать включенным.
Если Вас интересует что таке сервер по своей сути - то это машина, обслуживающая работу в сети других компьютеров - клиентов. Например - сервер может разрешать имена хостов, подсчитывать трафик, назначать адреса клиентам, на сервере могут быть запущены web и ftp службы, proxy, файловый сервер NETBIOS ресурсов, игровые серверы и множетсво других служб. Программы работающие на серверном компьютере как Вы заметили также называются "серверами".
В целом любой компьютер может выступать в роли сервера в какой то степени: если с него скачиваются файлы или к нему устанавливаются подключения TCP/IP (он прослушивает определенный порт), для различных целей - то такой компьютер выполняет роли сервера.

Здравствуйте, Abdu!
практически ничем, только на сервер накладываются более строгие критерии на надежность и быстродействие:
- это SCSI жесткие диски,
- это RAID массивы,
- это оперативная память с контролем четности,
- более надежные блоки питания

ну и конечно для больших организаций, лучше использовать серверы, построенный на спец материнских платах, серверных процессорах (для Intel - это Xeon)