В качестве отправной точки я бы использовал пространство rgb и евклидову норму, чтобы определить, имеет ли пиксель заданный цвет.Как правило, у вас есть 3 значения для пикселя: [red green blue].У вас также есть 3 значения, определяющие целевой цвет: [255 0 0] для красного.Вычислите евклидову норму между этими двумя векторами и примените порог принятия решения, чтобы классифицировать цвет вашего пикселя.
В конце концов, вы хотите избавиться от коэффициента яркости (т. Е. Ярко-красный или темно-красный?).Вы можете переключиться в пространство HSV и использовать ту же норму для значения H.Или вы можете использовать [red/green blue/green] векторов.Перед этим примените фильтр низких частот к изображениям, потому что деления (также присутствующие в преобразовании hsv2rgb) имеют тенденцию увеличивать шум.