Большое спасибо Адитье за комментарии, которые помогли мне понять, что я думаю, что это немного неправильно.
Во-первых, моя строка коннекта теперь:
@"Provider=Microsoft.ACE.OLEDB.12.0;Data Source=" + fileName + ";Extended Properties='Excel 12.0;HDR=NO;ReadOnly=False;'"
И, во-вторых, запрос теперь выглядит так:
UPDATE [My Sheet$B40:B40] SET F1=17
Я всегда думал, что F1 должна быть координатой, которую я хочу обновить, и поэтому я потерпел неудачу.