Полагаю, что целые числа x, y для графика - это пиксели, на которые они должны идти.
Если вы не можете получить хорошую кривую, масштабируя свои значения, вам, вероятно, следует подумать о создании большего изображения в памяти (возможно, в два раза больше шкалы y) и нарисовать его, а затем масштабировать это изображение обратно в графический интерфейс, используя getScaledInstance SampleModel.getScaledInstance на буферизованном изображении с подсказкой SCALE_SMOOTH .
Хотя то, что сказал Пьер, возможно, лучше.