Нет прямого способа сделать это.
Но если вы действительно хотите попробовать, вам нужно прочитать API JOptionPane, который дает код, показывающий, как вручную создавать и отображать JOptionPane без использования методов showXXX.
Используя этот подход, у вас теперь есть доступ к актуальному JDialog. Затем вы можете использовать Darryl SwingUtils для доступа к отдельным кнопкам и затем установить фон.
Код будет выглядеть примерно так:
JButton ok = SwingUtils.getDescendantOfType(JButton.class, dialog, "Text", "Ok");
ok.setBackground(...);