Преобразование графиков из отсканированного документа в данные

Question

В настоящее время я пытаюсь написать что-то, что может извлечь данные из некоторых необычных графиков в книге. Я отсканировал страницы книги, и с помощью opencv я хотел бы обнаружить некоторые особенности из графиков, чтобы преобразовать их в полезные данные. На левом графике я ищу высоту «треугольников», а на правом графике расстояние от центра до точек, где пунктирные линии пересекаются с серой областью. В обоих случаях я хотел бы преобразовать эти значения в числовые данные для дальнейшего использования.

Первое, о чем я подумал, это обнаружение линий графиков в надежде, что я смогу каким-то образом измерить их длину или положение. Для этого я использую Hough Line Transform. Следующий фрагмент кода показывает, как далеко я уже прошел.

import numpy as np
import cv2

# Reading the image
img = cv2.imread('test2.jpg')
# Convert the image to grayscale
gray = cv2.cvtColor(img,cv2.COLOR_BGR2GRAY)
# Apply edge detection
edges = cv2.Canny(gray,50,150,apertureSize = 3)

# Line detection
lines = cv2.HoughLinesP(edges,1,np.pi/180,100,minLineLength=50,maxLineGap=20)

for line in lines:
    x1,y1,x2,y2 = line[0]
    cv2.line(img,(x1,y1),(x2,y2),(0,0,255),2)

cv2.imwrite('linesDetected.jpg',img)

Единственная проблема заключается в том, что этот алгоритм обнаружения не является точным. По крайней мере не для меня. И для того, чтобы извлечь некоторые данные из графиков, обнаружение линий должно быть несколько точным. Могу ли я сделать это как-нибудь? Или моя стратегия, в первую очередь, заключается в обнаружении линий? Должен ли я начать с обнаружения чего-то еще, например, кругов, размеров объектов, контуров или цветов?

Answer 1

Использование цветовой сегментации - это простой способ преобразовать этот график в данные. Этот метод требует ручной аннотации. После сегментации графика подсчитайте количество пикселей для каждого цвета. Посмотрите демонстрацию «водораздел» в демонстрационных файлах, которые включены в библиотеку OpenCV:

import numpy as np
import cv2 as cv
from common import Sketcher

class App:
    def __init__(self, fn):
        self.img = cv.imread(fn)
        self.img = cv.resize(self.img, (654,654))
        h, w = self.img.shape[:2]
        self.markers = np.zeros((h, w), np.int32)
        self.markers_vis = self.img.copy()
        self.cur_marker = 1
        self.colors = np.int32( list(np.ndindex(2, 2, 3)) ) * 123
        self.auto_update = True
        self.sketch = Sketcher('img', [self.markers_vis, self.markers], self.get_colors)

    def get_colors(self):
        return list(map(int, self.colors[self.cur_marker])), self.cur_marker

    def watershed(self):
        m = self.markers.copy()
        cv.watershed(self.img, m)
        cv.imshow('img', self.img)        
        overlay = self.colors[np.maximum(m, 0)]
        vis = cv.addWeighted(self.img, 0.5, overlay, 0.5, 0.0, dtype=cv.CV_8UC3)
        cv.imshow('overlay', np.array(overlay, np.uint8))
        cv.imwrite('/home/stephen/Desktop/overlay.png', np.array(overlay, np.uint8))
        cv.imshow('watershed', vis)

    def run(self):
        while cv.getWindowProperty('img', 0) != -1 or cv.getWindowProperty('watershed', 0) != -1:
            ch = cv.waitKey(50)
            if ch >= ord('1') and ch <= ord('9'):
                self.cur_marker = ch - ord('0')
                print('marker: ', self.cur_marker)
            if self.sketch.dirty and self.auto_update:
                self.watershed()
                self.sketch.dirty = False
            if ch == 27: break
        cv.destroyAllWindows()


fn = '/home/stephen/Desktop/test.png'
App(cv.samples.findFile(fn)).run() 

На выходе будет изображение, подобное этому:

Вы можете посчитать пиксели для каждого цвета, используя этот код:

# Extract the values from the image
vals = []
img = cv.imread('/home/stephen/Desktop/overlay.png')
# Get the colors in the image
flat = img.reshape(-1, img.shape[-1])
colors = np.unique(flat, axis=0)
# Iterate through the colors (ignore the first and last colors)
for color in colors[1:-1]:
    a,b,c = color
    lower = a-1, b-1, c-1
    upper = a+1,b+1,c+1
    lower = np.array(lower)
    upper = np.array(upper)
    mask = cv.inRange(img, lower, upper)
    vals.append(sum(sum(mask)))
    cv.imshow('mask', mask)
    cv.waitKey(0)
cv.destroyAllWindows()

И распечатать выходные данные, используя этот код:

names = ['alcohol', 'esters', 'biter', 'hoppy', 'acid', 'zoetheid', 'mout']
print(list(zip(names, vals)))

Вывод:

[('alcohol', 22118), ('esters', 26000), ('biter', 16245), ('hoppy', 21170), ('acid', 19156), ('zoetheid', 11090), ('mout', 7167)]