Если объект всегда темнее фона, вы должны использовать простой метод порога с одним параметром, чтобы установить его: (Все, что ярче, чем порог, это BG, остальное - FG).
Если это не так, взгляните на алгоритмы водораздела. Я думаю, что бесплатная библиотека OpenCV (http://opencv.willowgarage.com/wiki/) от Intel включает реализацию. Для этого также нужно очень мало параметров: точки заполнения, чтобы начать сегментацию, чтобы пользователь мог просто щелкнуть объект переднего плана, а затем снова установить интерактивную настройку порога до тех пор, пока Весь объект выделен. Это в основном как "Волшебная палочка".
Если этого все еще недостаточно, возможно, вам подойдут подходы «змей» и «набор уровней». Пользователь может нарисовать грубую кривую вокруг объекта, и алгоритм пытается найти точную фактическую границу. Эти алгоритмы специально предназначены для нахождения оптимального разделения между передним и задним фонами в зависимости от того, какое свойство вы определяете, и ими можно управлять с помощью нескольких параметров (обычно 2 или 3), что должно быть достаточно простым для большинства пользователей. Я сомневаюсь, что у Intel есть реализация для них, но я использовал это некоторое время назад: http://vivienmallet.net/fronts/, и это было очень приятно и с открытым исходным кодом, так что вы можете легко адаптировать его к вашим потребностям.
Я предлагаю начать с OpenCV, так как он содержит МНОЖЕСТВО различных подходов, достаточных для большинства простых задач.
Ура!