Вполне допустимо использовать один и тот же номер порта как для исходящих подключений, так и для прослушивания. Если вы подключаетесь к своему компьютеру, вы получите вывод netstat, как вы показали.
TCP-соединение идентифицируется 4-мя кортежами (source-ip, source-port, dest-ip, dest-port), поэтому нет ничего, что говорит, что source-port не может совпадать с dest-port.
Возможно, вы привязываете к определенному порту в вашем клиентском коде? Обычно вам нужно только привязать к определенному порту для server code.
Ваша проблема с необходимостью закрыть Firefox, несомненно, не связана с этим.