Сначала дайте вашей текстовой области уникальный идентификатор, позволяющий легко получить ссылку на него:
Тогда вы можете проверить, содержит ли она новую строку или она пуста, например:
function val() {
var el = document.getElementById('pt_text');
if (el == null) {
// no element with given id has been found
return;
}
var value = el.value;
if (value == null || value === '' || value.indexOf('\n') > 0) {
alert('empty or contains a new line');
}
}