При выборе калибровочного шаблона выберите шаблон с большим количеством углов в горизонтальном (8, 7) или вертикальном направлении (7, 8).
Существуют различные варианты, которые вы можете попытаться обнаружить на шахматной доске.
vector<Point2f> corners;
Size checkerBoardSize(7,7);
bool found = findCheckerBoard(img, checkerBoardSize, corners, CALIB_CB_SYMMETRIC_GRID);
if(!found)
found = findCheckerBoard(img, checkerBoardSize, corners, CALIB_CB_SYMMETRIC_GRID | CALIB_CB_CLUSTERING);
//You can draw and see the detected points as follows
Mat res = img.clone();
if(res.channels() == 1)
cvtColor(res, res, CV_GRAY2BGR);
drawChessboardCorners(res1, checkerBoardSize, corners, found);
imshow("res", res);
waitKey(0);