Есть ли способ изменить цвет выделения флажка / радиокнопки?
Вот как это сделать для JCheckBox
UIManager.put("CheckBox.focus",Color.RED);
Здесь есть хороший инструмент: http://tips4java.wordpress.com/2008/10/09/uimanager-defaults/, который, если вы запустите программу Java Web Start, позволит вам просматриватьключи и значения для каждого компонента.