Согласно документации Google Docs , вы можете использовать только группы захвата в Google Sheets.Однако вы можете заменить несколько новых строк без использования группы захвата, например, с положительным прогнозом:
\n(?=\n)
И заменить это пустой строкой.