Думаю, у вас была лишняя запятая. Это отлично работает для меня:
df.index = pd.to_datetime(df.index, format="%b %y")
print(df.index)
Вывод:
DatetimeIndex(['2020-01-01', '2020-02-01', '2020-03-01', '2020-04-01'], dtype='datetime64[ns]', name='Month/Year', freq=None)