То, что вы хотите, это
LONG_PTR SetWindowLongPtr(HWND hWnd, int nIndex, LONG_PTR dwNewLong);
функция, которая, согласно MSDN, «функция изменяет атрибут указанного окна.». Параметр nIndex должен быть установлен в «GWL_STYLE», а «dwNewLong» представляет новый стиль.
Вы можете выбрать различные значения (использовать константы) для стиля.
В MSDN есть отличная статья, подробно исследующая это: http://msdn.microsoft.com/en-us/library/ms997562.aspx, в которой содержится список различных стилей, которые вы можете установить.