Здравствуйте, Put_nik!

Для определения цвета пикселя можно воспользоваться WinApi функциями.
Для определения цвета пикселя используют функцию GetPixel.

COLORREF GetPixel(
HDC hdc, // Контекст устройства.
int XPos, // Координата пикселя по X.
int YPos // Координата пикселя по Y.
);

где hdc Контекст устройства окна, из которого будем получать цвет пикселя.
Xpos и Xpos координаты нужной точки. Функция возвращает цвет пикселя в формате RGB, если
значения Xpos и YPos выходят за границы окна, то функция возвращает CLR_INVALID.

Для того что бы получить контекст устройства используют функцию GetDC:

HDC GetDC(
HWND hWnd // хэндл нужного окна.
);

Функцию GetWindowRect используют тогда когда надо получить границы окна.

BOOL GetWindowRect(

HWND hWnd, // хэндл окна
LPRECT lpRect //указатель на структуру типа Rect в которой возвращаются границы окна
);