Измените код на этот;
using (PdfSharp.Pdf.PdfDocument document = PdfReader.Open(filePath))
{
document.Info.Author = "";
document.Info.Title = "";
document.Info.Creator = "";
document.Save(filePath);
document.Close();
}
Как отметил в комментарии Йерун ван Ланген, вы не можете закрыть и удалить, а затем сохранить. Оператор использования позаботится о вашем распоряжении.
Редактировать;
Исправление относительно закрытия.