Ответ заключается в том, что Flash рисует bitmapData с предварительно умноженной альфа-прозрачностью. Flash в основном сохраняет память, округляя почти прозрачные пиксели до другого значения. Это незаметно для человеческого глаза, если только вы не укладываете изображения друг на друга снова и снова. Это приводит к ошибкам округления цвета, которые выглядят почти как обгоревший край кисти.
Вам определенно нужно "перемещать" кисть между позициями мыши, как отмечали другие, но это не позаботится о смещении цветов, которое происходит, когда вы укладываете изображения друг на друга.
Вместо этого нарисуйте мазок кисти в прозрачном растровом изображении и подкрасьте этот новый слой выбранным цветом, используя метод colorTransform. Когда вы наведите курсор мыши, нарисуйте этот прозрачный слой на холсте. (Не забудьте удалить этот дополнительный слой, когда вы его не используете!)