в клиенте я делаю это в app.config:
<basicHttpBinding ... <binding ... <readerQuotas maxDepth="32" maxStringContentLength="8192" maxArrayLength="50000" maxBytesPerRead="4096" maxNameTableCharCount="16384" />
Полагаю, вы имеете в виду изменить квоты читателя программно: здесь