Используйте цветовое пространство HSV. Выберите пиксели со значением H в диапазоне, который, по вашему мнению, должен содержать «красный», и значением S, достаточно большим, чтобы вы не считали его нейтральным, коричнево-коричневым или розовым. Вам также может понадобиться выбрасывать пиксели с низким V. Размер H - это круг, а красный цвет находится там, где круг разделен, поэтому ваш диапазон H будет состоять из двух частей: одна около 255, другая около 0.