Чтобы запустить Firefox с помощью customProfile, вам не нужно открывать его как пользовательский браузер.Вы должны установить firefoxprofileTemplate при запуске сервера.
Если вы запускаете jar из командной строки с помощью команды java -jar selenium-server, тогда вы должны использовать следующую команду:
java -jar selenium-server -firefoxProfileTemplate <path to firefox template>
Если вы запускаете сервер с помощью кода, тогда вы должны использовать следующий код:
SeleniumServer selServer;
RemoteControlConfiguration rc;
rc.setFirefoxProfileTemplate(File which refers to FirefoxProfileTemplate)
selServer=new SeleniumServer(false,rc);
Для обоих вы должны сначала создать профиль firefox с помощью команды firefox -P.