Удалить общий аргумент. Перегрузка, которую вы пытаетесь вызвать, не делает то, что вы думаете.
var settings = new JsonSerializerSettings {
ContractResolver = new Utilities.CustomContractResolver(false, null)
};
_service
.Setup(x => x.createSerializerSettingsUsingRequest(It.IsAny<Request>()))
.Returns(settings);
Если вы пытаетесь повторить поведение исходного метода, получите доступ к переданному аргументу.
Например
_service
.Setup(x => x.createSerializerSettingsUsingRequest(It.IsAny<Request>()))
.Returns<Request>(request => new JsonSerializerSettings {
ContractResolver = new Utilities.CustomContractResolver(false, request.text)
});