Преобразовать координаты пикселей в координаты кадра

Question

Я использую небольшое окно для обнаружения Марио, которое представлено красным блоком.Тем не менее, этот красный блок состоит из 16 на 12 пикселей.Я хочу взять координаты пикселей, которые я нашел, и преобразовать их в обычную систему координат x / y, основанную на окне, показанном на изображении: Фактический кадр , который должен быть сеткой 13 на 16 (НЕ пикселей).

Так, например, если поле Mario находится в верхнем левом углу экрана, координаты должны быть 0,0.

Я также не уверен, как на самом деле сделать сетку.

Код, который я использую, выглядит следующим образом:

import numpy as np
from PIL import Image


class MarioPixels:

def __init__(self):
    self.mario = np.array([

        [[248, 56, 0],
         [248, 56, 0],
         [248, 56, 0],
         [248, 56, 0],
         [248, 56, 0],
         [248, 56, 0],
         [248, 56, 0],
         [248, 56, 0],
         [248, 56, 0],
         [248, 56, 0],
         [248, 56, 0],
         [248, 56, 0],
         [248, 56, 0],
         [248, 56, 0],
         [248, 56, 0],
         [248, 56, 0]
         ]]
    )

    self.height = len(self.mario)  # specify number of pixels for columns in the frame
    self.width = len(self.mario[0])  # specificy number of pixels representing a line in the frame

    print(self.mario.shape)

# find difference in R, G and B values between what's in window and what's on the frame
def pixelDiff(self, p1, p2):
    return abs(p1[0] - p2[0]), abs(p1[1] - p2[1]), abs(p1[2] - p2[2])

def isMario(self, window, pattern):
    total = [0, 0, 0]
    count = 0
    for line in range(len(pattern)):

        lineItem = pattern[line]
        sample = window[line]

        for pixelIdx in range(len(lineItem)):
            count += 1
            pixel1 = lineItem[pixelIdx]
            pixel2 = sample[pixelIdx]
            d1, d2, d3 = self.pixelDiff(pixel1, pixel2)
            # print(pixelIdx)
            total[0] = total[0] + d1  # sum of difference between all R values found between window and frame
            total[1] = total[1] + d2  # sum of difference between all G values found between window and frame
            total[2] = total[2] + d3  # sum of difference between all B values found between window and frame
            # Mario has a red hat
            # if line == 0 and pixelIdx == 4 and pixel2[0] != 248:
            #    return 1.0

    rscore = total[0] / (
                count * 255)  # divided by count of all possible places the R difference could be calculated
    gscore = total[1] / (
                count * 255)  # divided by count of all possible places the G difference could be calculated
    bscore = total[2] / (
                count * 255)  # divided by count of all possible places the B difference could be calculated

    return (
                       rscore + gscore + bscore) / 3.0  # averaged to find a value between 0 and 1. Num close to 0 means object(mario, pipe, etc.) is there,
    # whereas, number close to 1 means object was not found.

def searchForMario(self, step, state, pattern):

    height = self.height
    width = self.width

    x1 = 0
    y1 = 0
    x2 = width
    y2 = height

    imageIdx = 0
    bestScore = 1.1
    bestImage = None
    bestx1, bestx2, besty1, besty2 = 0, 0, 0, 0

    for y1 in range(0, 240 - height, 8):  # steps in range row, jump by 8 rows
        y2 = y1 + height

        for x1 in range(0, 256 - width, 3):  # jump by 3 columns
            x2 = x1 + width

            window = state[y1:y2, x1:x2, :]
            score = self.isMario(window, pattern)
            # print(imageIdx, score)
            if score < bestScore:
                bestScore = score
                bestImageIdx = imageIdx
                bestImage = Image.fromarray(window)
                bestx1, bestx2, besty1, besty2 = x1, x2, y1, y2

            imageIdx += 1

    bestImage.save('testrgb' + str(step) + '_' + str(bestImageIdx) + '_' + str(bestScore) + '.png')

    return bestx1, bestx2, besty1, besty2

Answer 1

Это выглядит как будто у вас здесь есть соотношение сторон пикселя, поэтому ширина и высота каждого "блока" в пикселях будет разной.

Судя по вашему коду, ваше пиксельное пространство составляет 256x240 пикселей, но вы говорите, что оно на самом деле представляет собой сетку 13x16.Это означает, что каждый блок в x-домене имеет размер (256/13) или около 20 пикселей, а в y-домене (240/16) - 15 пикселей.Это означает, что «Марио», в 16x12 пикселей занимает менее одного полного блока.Глядя на ваше изображение, кажется, что это возможно - кусты и облака также занимают менее одного блока.

Я предлагаю вам сначала убедиться, что сетка 13x16 правильная (просто потому, что она не соответствует вашейточный размер пикселя, и поскольку размеры шага в ваших диапазонах подразумевают, что блоки могут фактически быть 3x8 пикселей).Затем вы можете попытаться добавить сетку к пиксельному изображению, просто установив значение каждого пикселя с координатой x, точно делимой на 20, равной (0,0,0) для черного пикселя RGB (итакже y-координата точно делится на 15 - используйте оператор модуля%).Чтобы получить «блочные» координаты, просто разделите x-co на 20 и y-co на 15 и округлите до ближайшего целого числа (или используйте //, чтобы выполнить округление как часть деления).

Я предположил, что ваши координаты пикселей также идут от верхнего левого (0,0) до нижнего правого (256, 240).