установить размер макета после show ();
alertDialog.show();
alertDialog.getWindow().setLayout(600, 400); //Controlling width and height.
ps] изменить размер текста
AlertDialog dialog = new AlertDialog.Builder(this).setMessage("Hello world").show();
// you can get id from dialog xml.
TextView textView = (TextView) dialog.findViewById(android.R.id.message);
textView.setTextSize(40);