Я заметил, что включение флага дизеринга исправляет это, например, используйте
$imagick->quantizeImage(4, \Imagick::COLORSPACE_RGB, 0, true, false);
вместо
$imagick->quantizeImage(4, \Imagick::COLORSPACE_RGB, 0, false, false);
Мне кажется, что это ошибка, когда дизеринг отключен.