вы можете выполнить cmd с Exec () в inno setup и проверить ResultCode value.eg:
Exec(ExpandConstant('{cmd}'), '/C tasklist | findstr "test.exe"', '', SW_SHOWNORMAL,ewWaitUntilTerminated, ResultCode);
, если ResultCode не равен 0, повторное выполнение cmd завершит процесс test.exe.
Exec(ExpandConstant('{cmd}'), '/C taskkill /IM test.exe', '', SW_SHOWNORMAL,ewWaitUntilTerminated, ResultCode);