В свойствах Visual Studio нет ничего особенного. Это просто «читаемые человеком» версии узлов в файлах проекта xml, аргументы командной строки для компилятора (cl.exe) и компоновщика (link.exe). Просто откройте свойства, установите параметр AVX, затем перейдите на вкладку «Командная строка», чтобы увидеть реальные параметры, предоставляемые cl.exe
Так что вам просто нужно добавить параметр /arch:[AVX|AVX2|AVX512]
на строку, которая вызывает cl.exe в вашем файле nmake. Например
cl /EHsc /arch:AVX /Fe$(DIR_BIN)\$(EXECUTABLE_NAME) /I$(DIR_INCLUDE) $(SRC_FILES)