Это зависит от того, какое именно сообщение вы обрабатываете. Вам нужно обратиться к документации по этому сообщению, чтобы увидеть ожидаемые значения и значения возвращаемого значения.
Например, для WM_CREATE вы должны вернуть ноль, чтобы продолжить создание окна, и -1, чтобы завершить работу и уничтожить окно. Для WM_GETICON вы должны вернуть маркер к значку вашего окна.
Для сообщений, которые вы явно не обрабатываете, вы должны вызвать DefWindowProc , передав ему все параметры в ваш оконный процесс и вернуть его возвращаемое значение вызывающей стороне.