Если вы знаете Python, взгляните на эту библиотеку:
http://pythonvision.org/basic-tutorial
С ним очень легко начать работать, и он должен уметь делать то, что вы пытаетесь сделать. Техника называется «Морфологическая обработка изображений».
Общая тематическая область - компьютерное зрение, и очень мощная библиотека, которую можно использовать на многих языках, - OpenCV (http://opencv.willowgarage.com/wiki/).
Если вы можете связать некоторые примеры изображений, я мог бы дать лучший совет, но в качестве первой идеи я бы попытался сделать эту последовательность:
- Используйте цветовые пороги, чтобы изолировать два типа монет от двух типов квадратов.
- Создание изображения со снятыми монетами и отверстиями, заполненными окружающим цветом (т.е. пустой доской)
- Порог для отделения света от темных квадратов
- Разрушается, чтобы найти центр каждого квадрата
- Теперь вернитесь к изображениям монет, найдите центр каждой монеты.
- Назначьте каждую монету квадрату, центр которого находится ближе всего к ее центру.