Я не уверен, что происходит в вашем первом диалоге, потому что, похоже, он работает не так, как я ожидал. Второй диалог больше похож на стандартное поведение.
В Windows Forms свойство AcceptButton вступает в действие только тогда, когда нажатие Enter не вызывает никаких действий. В обоих ваших примерах нажатие кнопки должно переместить фокус на эту кнопку, а последующее нажатие клавиши Enter вызовет еще один щелчок по этой кнопке.
В любом случае, я думаю, что, как правило, предпочтительнее придерживаться рекомендаций по пользовательскому интерфейсу Windows, а не автоматически менять фокус ввода назад на кнопку ОК. Если пользователь нажимает на одну из других кнопок, фокус должен оставаться там, пока он не переместит его.