jboss5 запускается из-за переменной среды, как вы уже догадались.
Просто сбросьте переменную окружения в c: \ jboss6, и вы сможете запустить jboss6.
Если вы хотите запустить их одновременно на одной и той же машине, самый простой способ сделать это - сделать ваш хост мультидоменным (несколько ip-адресов на одной машине) и разрешить имя хоста для каждого адреса , Вам нужно сделать что-то подобное, чтобы предотвратить конфликты портов (каждый jboss будет использовать похожие порты на одном и том же IP-адресе, что приведет к тому, что второй сервер не запустится).
Так что, если бы это было в домашней сети, вы могли бы иметь IP-адрес 192.168.1.100 для jboss5 и 192.168.1.101 для jboss6.
Теперь, чтобы запустить jboss5, установите переменную окружения и:
c: \ jboss5 \ bin \ run -c all -b jboss5
и для запуска jboss6 установите переменную окружения и:
c: \ jboss6 \ bin \ run -c all -b jboss6