избежать ваших цитат. Только пример (не уверен, что такое синтаксис оболочки R)
shell("gawk \"{print $1}\"", m[1],"_", h[i]."_79.7.dat"")
эксперимент с экранированием кавычек, чтобы получить правильный результат.
Другой способ - сначала создать командную строку gawk, а затем перейти к shell()