Это ошибка ... вызванная тем, что эти браузеры округляют координаты, чтобы избежать сглаживания.
Таким образом, когда вы устанавливаете уровень масштабирования равным 120%, маленький квадрат должен фактически отображаться как квадрат 1.2px * 1.2px перед преобразованием.
Но браузеры webkit округляют это значение до 1px, даже до того, как они применяют преобразование (я думаю, что FF также делает, но, вероятно, после преобразования).
Таким образом, вы не увидите изменения, пока не достигнете увеличения 150%, где теперь оно будет округлено до 2px, а ваш синий квадрат станет больше, чем те же 100px * 100px.
Только на 200% они снова совпадут.
Ничего не поделаешь, чтобы обойти это, кроме как дать им знать об этом и избегать игры с такими маленькими элементами ;-) (использование квадрата 10px * 10px и деление уровня масштабирования преобразования на 10 предотвратит эту ошибку).