Типичный пакет JSON может (и должен) быть сжат с помощью gzip веб-сервером до прибл. 10% от первоначального размера. Итак, вы действительно смотрите на 30-100k. Если эти ответы могут быть кэшированы, то это еще меньше проблем.
Размер передачи не должен быть решающим фактором того, является ли пакет «слишком большим». Вместо этого посмотрите, сколько времени потребуется браузеру для обработки этого пакета (обновления пользовательского интерфейса и т. Д.).
На самом деле анализ JSON должен быть очень быстрым, до многих мегабайт данных. Превращение этого в нечто новое в пользовательском интерфейсе во многом будет зависеть от того, насколько сложен HTML, который вы создаете.