Вы неправильно определяете размер.
Что вам нужно сделать, это создать новый размер бумаги примерно так:
OpenHtmlToPdf.PaperSize size = new OpenHtmlToPdf.PaperSize(Length.Millimeters(58), Length.Millimeters(110));
Затем, чтобы задать для документа PDF правильный размер бумаги, вы бы назвали это так:
var pdf = Pdf.From(html).OfSize(size);
Примечание стороны
Если вы используете другую единицу измерения, вы можете определить, какую единицу измерения вы используете следующим образом:
Length.Inches(MeasurementInInches);
Length.Centimeters(MeasurementInCentimeters);