Используйте встроенный метод для преобразования в радианы.
public void testPoints(int x, int y, int r){
for(int i = 0; i < 360; i++){
if(Math.round(x+r*Math.cos(Math.toRadians(i))) == x){
System.out.println("Hi");
}
}
}
Или просто начните с радиан в вашем l oop
public static void testPoints(int x, int y, int r){
double maxAngle = 2*Math.PI;
double increment = maxAngle/360.;
for(double i = 0; i < maxAngle; i += increment){
if(Math.round(x+r*Math.cos(i)) == x){
System.out.println("Hi");
}
}
}