Обратите внимание, что до и после имени переменной нет пробелов.
итак,
var1=`ls`
это то, что вам нужно. Но если у вас есть
var = `ls`
вы получите ошибки.
Итак, ваш код должен быть:
var1=`awk '$1>$3{ print "5"}' newfile2`
echo $var1
Убедитесь, что вы находитесь в оболочке BASH, а не в C или TCSH.