Чтобы использовать Win32 API, вам нужно создать приложение Windows.
Это означает использование функции WinMain вместо функции main ().
Может также (необязательно) такжевключая создание окна и обработку сообщений окна с помощью оконной процедуры.
После этого вы сможете вызывать Win32 API GetPixel.
Если вы настаиваете на создании консоли иликроме приложения Windows, вам придется определить свой собственный GetPixel, который, вероятно, будет обращаться к видеопамяти напрямую.
Итак, начните с создания функции WinMain вместо main ().(Конечно, вам также нужно будет ссылаться на соответствующие библиотеки.)