Как Бруно говорит в своем комментарии: используйте SSL. Много библиотек для всех платформ.
Вся безопасность без сложности HTTP вам абсолютно не нужна.
Используйте порт 443 на сервере, и никакая третья сторона или посредник не сможет отличить ваш трафик от трафика HTTPS. (не путайте «порт» и «протокол».)
Также, если вы не против поделиться дополнительной информацией о цели и характере этого «полнодуплексного двоичного протокола», мы могли бы порекомендовать еще более эффективные решения, такие как SRPT.