Попробуйте изменить квадратные скобки в вашем запросе на фигурные:
User.update( { _id: authorId }, { $pull: { articles: { _id: deletedArticle.id } } } )
Это, очевидно, потребовало бы, чтобы _id в массиве статей был таким же, как коллекция статей, что зависит от того, как вы заполняете массив (у меня такое ощущение, что вы делаете эту часть правильно, но просто хотел упомянуть эту возможность до передний).