Не нужно экранировать одинарные кавычки:
hive -e "select key from hbcv_table a where a.col2 like '%hello friend%'" | sed 's/[\t]/,/g' >a.dat
Одиночные кавычки в операторе выбора должны передаваться в Hive буквально. А в двойных кавычках одинарные кавычки имеют буквальное значение.