Я работаю над распознаванием рукописных многозначных чисел с Java, использую библиотеку OpenCV для предварительной обработки и сегментации и модель Keras, обученную в MNIST (с точностью 0,98) для распознавания.
Кажется, распознавание работает довольно хорошо, за исключением одной вещи. Сеть нередко не распознает их (номер «один»). Я не могу понять, происходит ли это из-за предварительной обработки / неправильной реализации сегментации, или если сеть, обученная по стандарту MNIST, просто не видела номер один, который выглядит как мои тестовые примеры.
Вот чтопроблемные цифры выглядят после предварительной обработки и сегментации:
становится 
и классифицируется как 4.
становится 
и классифицируется как 7.
становится 
и классифицируется как 4. И так далее ...
Это можно исправить, улучшив процесс сегментации? Или, скорее, улучшив тренировочный набор?
Редактировать: Улучшение тренировочного набора (увеличение данных) определенно поможет, который я уже тестирую, вопрос о правильной предварительной обработке все еще остается.
Моя предварительная обработкасостоит из изменения размера, преобразования в оттенки серого, бинаризации, инверсии и расширения. Вот код:
Mat resized = new Mat();
Imgproc.resize(image, resized, new Size(), 8, 8, Imgproc.INTER_CUBIC);
Mat grayscale = new Mat();
Imgproc.cvtColor(resized, grayscale, Imgproc.COLOR_BGR2GRAY);
Mat binImg = new Mat(grayscale.size(), CvType.CV_8U);
Imgproc.threshold(grayscale, binImg, 0, 255, Imgproc.THRESH_OTSU);
Mat inverted = new Mat();
Core.bitwise_not(binImg, inverted);
Mat dilated = new Mat(inverted.size(), CvType.CV_8U);
int dilation_size = 5;
Mat kernel = Imgproc.getStructuringElement(Imgproc.CV_SHAPE_CROSS, new Size(dilation_size, dilation_size));
Imgproc.dilate(inverted, dilated, kernel, new Point(-1,-1), 1);
Предварительно обработанное изображение затем сегментируется на отдельные цифры следующим образом:
List<Mat> digits = new ArrayList<>();
List<MatOfPoint> contours = new ArrayList<>();
Imgproc.findContours(preprocessed.clone(), contours, new Mat(), Imgproc.RETR_EXTERNAL, Imgproc.CHAIN_APPROX_SIMPLE);
// code to sort contours
// code to check that contour is a valid char
List rects = new ArrayList<>();
for (MatOfPoint contour : contours) {
Rect boundingBox = Imgproc.boundingRect(contour);
Rect rectCrop = new Rect(boundingBox.x, boundingBox.y, boundingBox.width, boundingBox.height);
rects.add(rectCrop);
}
for (int i = 0; i < rects.size(); i++) {
Rect x = (Rect) rects.get(i);
Mat digit = new Mat(preprocessed, x);
int border = 50;
Mat result = digit.clone();
Core.copyMakeBorder(result, result, border, border, border, border, Core.BORDER_CONSTANT, new Scalar(0, 0, 0));
Imgproc.resize(result, result, new Size(28, 28));
digits.add(result);
}