у меня ниже работает:
<input name="txtTextLabel" id="txtTextLabel" type="text"
onblur='this.value = this.value.replace("<", "[").replace(">", "]").replace("\"", "");'/>
Я поставил \ перед двойной кавычкой, потому что именно так вы избегаете двойной кавычки в Javascript.
Обратите внимание, что в атрибуте onblur я полностью изменил использование одинарных и двойных кавычек, чтобы они работали.
Также я понимаю, что в вашем коде вы заменяете <на [и> на]