Вы открываете каждый файл в папке .csv с помощью вашей команды для l oop, но открываете только один файл для записи (Exercise1.tsv). Таким образом, вы перезаписываете один и тот же файл каждый раз. Вам нужно создавать новые файлы для записи в каждой итерации l oop. Вы можете попробовать что-то вроде этого:
for i,file in enumerate(pathlib.Path().rglob('*.csv')):
with open(file,'r') as csvin, open('Exercise_{}.tsv'.format(i), 'w') as tsvout:
csvin = csv.reader(csvin)
tsvout = csv.writer(tsvout, delimiter='\t')
enumerate () добавляет счетчик для l oop. Это добавит число к вашим файлам Exercise.tsv от 0 до длины файлов в вашем каталоге.