Почему этот JSON-анализ становится все более и более эффективным?
В этом сущность того, что Своевременно компиляторы делают.
Они понимают (через какое-то профилирование или иногда просто подсчет вызовов методов), какие части вашего кода критичны для производительности.В какой-то момент они приходят и переводят байт-код java, например, в собственный машинный код.
Другими словами: скорее всего, когда ваш код делает что-то «достаточно часто», в какой-то момент JIT будет(вероятно, постепенно, в несколько этапов) перекомпилируйте его во все более оптимизированные (машинный код) представления.