Я нашел решение, которое немного сложнее.
Во-первых, я создал модель (например, SSD), которая будет определять 4 класса, которые являются углом поворота изображения, то есть: class1 - 0 градусов, class2 - 90 градусов, и т. Д. c.
Затем модель найдет 2 метки правильно из 4: 0 и 180. Если метка натолкнулась на 90 или 270 (которые иногда распознаются как друг друга), я поверну снова с 90 градусами, и пусть модель предскажет, какая их метка находится между 0 и 180. После этого я вычту градус с 90 градусами, чтобы получить правильную метку.