При условии, что вы расширили JFrame, самый простой способ - в окне «Свойства» - в «Другие свойства» есть свойство «изменяемого размера», в котором можно просто снять флажок.
Или, в представлении Source у вас будет конструктор - поместите его туда. например если ваш класс называется MyFrame
public class MyFrame extends javax.swing.JFrame {
/** Creates new form MyFrame */
public MyFrame() {
initComponents();
setResizable(false); // insert this line
}