Я не думаю, что есть способ изменить масштаб слоев. Тем не менее, вы можете добиться лучших результатов, визуализируя свой круг с несколькими разрешениями в слои разных размеров и одновременно анимируя их - масштабируя и постепенно увеличивая / уменьшая слои до тех пор, пока не доберетесь до конечного полноразмерного слоя.
Вы также можете попробовать нарисовать круг непосредственно кадр за кадром, вместо того, чтобы анимировать размер слоя - если рисунок будет достаточно быстрым, вы сохраните хорошую частоту кадров и у вас не будет никаких артефактов масштабирования. Если вы выбираете этот путь, обычно лучше делать это в отдельном потоке, который посвящен этой анимации, а не в основном потоке.
В подобных ситуациях я обычно просто смягчаю края на чертеже - хорошо подобранная тень или цвет делает чудеса для уменьшения артефактов сглаживания, и это гораздо проще сделать, чем любое другое решение. (Обратите внимание также, что ширина обводки круга масштабируется со слоем: если вы нарисуете белый круг на черном фоне, используя ширину линии 1 пиксель в полном размере, то при 1% линия будет иметь ширину всего 0,01 пикселя!)