Я подозреваю, что вы говорите о целых точках в круге. В противном случае вопрос не имеет смысла.
В этом случае вы можете применить формулу Гаусса
N = 1 + 4 * r + 4 * sum[i=1..r]{floor(sqrt(r^2-i^2))}
Обратите внимание, что центр также имеет целочисленные координаты.