Вы не можете защитить бэкэнд со стороны клиента, OflaDemo - это демо-приложение, а не производственное приложение. По умолчанию Red5 запрещает глобальные подключения, поэтому, если вы запускаете только свое собственное приложение, вы можете реализовать любой тип защиты, какой пожелаете.
Нет, на самом деле не нужно (и не полезно) пытаться управлять безопасностью только на уровне брандмауэра. API позволяет ограничивать доступ пользователей к различным видам использования red5.