перечислите их, подсчитайте их, и если счетчик больше единицы, убейте их:
for /f %a in ('tasklist /nh /fi "imagename eq notepad.exe" /fo csv ^|find /c /v ""') do if %a gtr 1 taskkill /fi "imagename eq notepad.exe"
(это синтаксис командной строки. Чтобы использовать его в пакетном файле, заменяйте каждый %a
на %%a
)