Благодаря @DrakeWu он работает сейчас:
SetDisplayConfig(0, NULL, 0, NULL, (SDC_APPLY | SDC_TOPOLOGY_CLONE));
Важное примечание: MS-документация описывает, что режим изменен для "текущего сеанса" (что, на мой взгляд, означает то же самое, что и мое приложение работает), это чепуха. Конфигурация дисплея сохраняется и после завершения приложения и даже после перезагрузки системы.