Здравствуйте, РАИ.
Как я вижу, Вы переделали мою программу. Парочка замечаний.

- если несколько потоков должны выполнять одинаковую работу, совершенно незачем для каждого из них делать отдельную функцию. Можно обойтись одной функцией, передавая ей разные параметры. Сохраняйте нужные данные локально (в стеке) или выделяйте память для потока (Thread Local Storage). См. описания (TlsAlloc,TlsGetValue,TlsSetValue,TlsFree). В данном случае достаточно сохранить номер потока в локальной переменной. Написание отдельных одинаковых функций для каждого потока свидетельствует о непонимании того, как работают потоки.

- в вашем варианте есть серьезная (с моей точки зрения) ошибка. Вы пишете:

EnterCriticalSection(&cs);
cout<<"thread#1 started"<<GetCurrentThreadId()<<endl;
Sleep(500);
cout<<"thread#1 finished"<<GetCurrentThread()<<endl;
LeaveCriticalSection(&cs);

При этом выполнение очередного потока начнется только после завершения предыдущего.
Нужно синхронизировать только вывод на консоль:

EnterCriticalSection(&cs);
cout<<"thread#1 started"<<GetCurrentThreadId()<<endl;
LeaveCriticalSection(&cs);

Sleep(500);

EnterCriticalSection(&cs);
cout<<"thread#1 finished"<<GetCurrentThread()<<endl;
LeaveCriticalSection(&cs);

- директива #define WIN32_LEAN_AND_MEAN должна быть ПЕРЕД #include<windows.h>, иначе она не имеет смысла.

Переработанный вариант программы — в приложении. Директивы #pragma, специфические для Borland C++ Builder, я закомментировал. Проверял с MSVC 6.0.

Потоки запускаются и завершаются в случайном порядке. Для запуска генерируется случайный номер и проверяется, не запущен ли уже поток с данным номером. Если нет, то поток создается. Внутри каждого потока генерируется случайная задержка, поэтому и завершаются потоки в случайном порядке. Пример выполнения:

thread 4 started 9604
thread 1 started 8396
thread 3 started 8816
thread 2 started 8300
thread 3 finished 8816
thread 1 finished 8396
thread 4 finished 9604
thread 2 finished 8300

All threads finished. Press any key to exit.

Успехов!

P.S. Если будут вопросы, то ответить смогу только в понедельник после 13-14 часов.

Приложение:
//#pragma hdrstop
#define WIN32_LEAN_AND_MEAN
#include<windows.h>
#include<iostream.h>
#include<conio.h>
#include<stdlib.h>

#define THREAD_COUNT 4

CRITICAL_SECTION cs;

int iThread[THREAD_COUNT]; // индексы потоков, по стандарту инициализируется нулями

DWORD WINAPI ThreadFunc(LPVOID p)
{
int iNum = *(int*)p;
EnterCriticalSection(&cs);
cout<<"thread " << iNum << " started " << GetCurrentThreadId() << endl;
LeaveCriticalSection(&cs);

// wait random interval
Sleep( 500 + rand()*5000/RAND_MAX );

EnterCriticalSection(&cs);
cout<<"thread " << iNum << " finished " << GetCurrentThreadId() << endl;
LeaveCriticalSection(&cs);
return 0;
}

//---------------------------------------------------------------------------

//#pragma argsused
int main( int argc, char* argv[] )
{
HANDLE* phThreads = new HANDLE[THREAD_COUNT];
if(!phThreads) return -1;

// initialize the the random-number generator with current time so that
// the numbers will be different every time we run
srand( (unsigned)GetTickCount() );


InitializeCriticalSection(&cs);
for( int i = 0; i < THREAD_COUNT; ++i )
{
int n;
do {
// rand() returns a pseudorandom integer in the range 0 to RAND_MAX
n = ( rand()*THREAD_COUNT )/RAND_MAX;
if( n == THREAD_COUNT ) --n; // редкий случай, когда rand() возвращает RAND_MAX
} while( iThread[n] );
iThread[n] = n+1;

DWORD dwThreadId;
phThreads[n] = CreateThread( NULL, 0, ThreadFunc, (PVOID)(iThread+n), 0, &dwThreadId );
if (phThreads[n] == NULL)
return GetLastError();
}
// подождем, пока все потоки завершатся
WaitForMultipleObjects( THREAD_COUNT, phThreads, TRUE, THREAD_COUNT*5000 );

// критическая секция больше не нужна, освобождаем ресурс
DeleteCriticalSection( &cs );

// закрываем описатели потоков
while( i > 0 )
CloseHandle( phThreads[--i] );

// освобождаем память
delete[] phThreads;

cout << endl << "All threads finished. Press any key to exit." << endl;
getch();
return 0;
}