Удаление пустых строк файла данных в R

Question

У меня есть набор данных с пустыми строками. Я хотел бы удалить их:

myData<-myData[-which(apply(myData,1,function(x)all(is.na(x)))),]

Работает нормально. Но теперь я хотел бы добавить столбец в мои данные и инициализировать первое значение:

myData$newCol[1] <- -999

Error in `$<-.data.frame`(`*tmp*`, "newCol", value = -999) : 
  replacement has 1 rows, data has 0

К сожалению, это не работает, и я не очень понимаю, почему, и я не могу решить это. Это работало, когда я удалял одну строку за раз, используя:

TgData = TgData[2:nrow(TgData),]

или что-нибудь подобное.

Это также работает, когда я использовал только первые 13.000 строк.

Но это не работает с моими фактическими данными, с 32 000 строк.

Что я сделал не так? Это, кажется, не имеет смысла для меня.

Answer 1

Я предполагаю, что вы хотите удалить строки, которые все являются NA. Затем вы можете сделать следующее:

data <- rbind(c(1,2,3), c(1, NA, 4), c(4,6,7), c(NA, NA, NA), c(4, 8, NA)) # sample data
data
     [,1] [,2] [,3]
[1,]    1    2    3
[2,]    1   NA    4
[3,]    4    6    7
[4,]   NA   NA   NA
[5,]    4    8   NA

data[rowSums(is.na(data)) != ncol(data),]
     [,1] [,2] [,3]
[1,]    1    2    3
[2,]    1   NA    4
[3,]    4    6    7
[4,]    4    8   NA

Если вы хотите удалить строки, в которых есть хотя бы один NA, просто измените условие:

data[rowSums(is.na(data)) == 0,]
     [,1] [,2] [,3]
[1,]    1    2    3
[2,]    4    6    7

Answer 2

Если у вас есть пустые строки, а не NA, вы можете сделать:

data[!apply(data == "", 1, all),]

Чтобы удалить оба (NA и пусто):

data <- data[!apply(is.na(data) | data == "", 1, all),]

Answer 3

Вот несколько вариантов dplyr:

# sample data
df <- data.frame(a = c('1', NA, '3', NA), b = c('a', 'b', 'c', NA), c = c('e', 'f', 'g', NA))

library(dplyr)

# remove rows where all values are NA:
df %>% filter_all(any_vars(!is.na(.)))
df %>% filter_all(any_vars(complete.cases(.)))  


# remove rows where only some values are NA:
df %>% filter_all(all_vars(!is.na(.)))
df %>% filter_all(all_vars(complete.cases(.)))  

# or more succinctly:
df %>% filter(complete.cases(.))  
df %>% na.omit

# dplyr and tidyr:
library(tidyr)
df %>% drop_na

Answer 4

Альтернативное решение для рядов NA с использованием janitor пакет

myData %>% remove_empty("rows")

Answer 5

Это похоже на некоторые из приведенных выше ответов, но при этом вы можете указать, хотите ли вы удалить строки с процентом пропущенных значений, большим или равным данному проценту (с аргументом pct)

drop_rows_all_na <- function(x, pct=1) x[!rowSums(is.na(x)) >= ncol(x)*pct,]

Где x - это фрейм данных, а pct - порог заполненных NA данных, от которых вы хотите избавиться.

pct = 1 означает удаление строк, которыеимеют 100% своих значений NA.pct = .5 означает строки remome, которые имеют как минимум половину своих значений NA