Установите определенные значения в NA с помощью dplyr
Я пытаюсь найти простой способ сделать что-то подобное с помощью dplyr (data set = dat, variable = x):
day$x[dat$x<0]=NA
Должно быть простым, но это лучшее, что я могу сделать в данный момент. Есть ли более простой способ?
dat = dat %>% mutate(x=ifelse(x<0,NA,x))
Ответы
Ответ 1
Вы можете использовать replace
, который немного быстрее, чем ifelse
:
dat <- dat %>% mutate(x = replace(x, x<0, NA))
Вы можете немного ускорить его, указав индекс replace
с помощью which
:
dat <- dat %>% mutate(x = replace(x, which(x<0L), NA))
На моей машине это сокращает время до третьего, см. ниже.
Здесь немного сравнения разных ответов, что только указывает, конечно:
set.seed(24)
dat <- data.frame(x=rnorm(1e6))
system.time(dat %>% mutate(x = replace(x, x<0, NA)))
User System elapsed
0.03 0.00 0.03
system.time(dat %>% mutate(x=ifelse(x<0,NA,x)))
User System elapsed
0.30 0.00 0.29
system.time(setDT(dat)[x<0,x:=NA])
User System elapsed
0.01 0.00 0.02
system.time(dat$x[dat$x<0] <- NA)
User System elapsed
0.03 0.00 0.03
system.time(dat %>% mutate(x = "is.na<-"(x, x < 0)))
User System elapsed
0.05 0.00 0.05
system.time(dat %>% mutate(x = NA ^ (x < 0) * x))
User System elapsed
0.01 0.00 0.02
system.time(dat %>% mutate(x = replace(x, which(x<0), NA)))
User System elapsed
0.01 0.00 0.01
(Я использую dplyr_0.3.0.2 и data.table_1.9.4)
Поскольку мы всегда очень заинтересованы в бенчмаркинге, особенно в ходе дискуссий data.table-vs-dplyr, я предоставляю еще один тест из 3 ответов с использованием микрообъектива и данных akrun. Обратите внимание, что я модифицировал dplyr1
как обновленную версию моего ответа:
set.seed(285)
dat1 <- dat <- data.frame(x=sample(-5:5, 1e8, replace=TRUE), y=rnorm(1e8))
dtbl1 <- function() {setDT(dat)[x<0,x:=NA]}
dplr1 <- function() {dat1 %>% mutate(x = replace(x, which(x<0L), NA))}
dplr2 <- function() {dat1 %>% mutate(x = NA ^ (x < 0) * x)}
microbenchmark(dtbl1(), dplr1(), dplr2(), unit='relative', times=20L)
#Unit: relative
# expr min lq median uq max neval
# dtbl1() 1.091208 4.319863 4.194086 4.162326 4.252482 20
# dplr1() 1.000000 1.000000 1.000000 1.000000 1.000000 20
# dplr2() 6.251354 5.529948 5.344294 5.311595 5.190192 20
Ответ 2
Вы можете использовать функцию is.na<-
:
dat %>% mutate(x = "is.na<-"(x, x < 0))
Или вы можете использовать математические операторы:
dat %>% mutate(x = NA ^ (x < 0) * x)
Ответ 3
Если вы используете data.table
, код ниже быстрее
library(data.table)
setDT(dat)[x<0,x:=NA]
Бенчмарки
Используя data.table_1.9.5
и dplyr_0.3.0.9000
library(microbenchmark)
set.seed(285)
dat <- data.frame(x=sample(-5:5, 1e7, replace=TRUE), y=rnorm(1e7))
dtbl1 <- function() {as.data.table(dat)[x<0,x:=NA]}
dplr1 <- function() {dat %>% mutate(x = replace(x, x<0, NA))}
microbenchmark(dtbl1(), dplr1(), unit='relative', times=20L)
#Unit: relative
#expr min lq mean median uq max neval cld
#dtbl1() 1.00000 1.000000 1.000000 1.000000 1.000000 1.000000 20 a
#dplr1() 2.06654 2.064405 1.927762 1.795962 1.881821 1.885655 20 b
Обновленные тесты
Использование data.table_1.9.5
и dplyr_0.4.0
. Я использовал немного больший набор данных и заменил as.data.table
на setDT
(включил функцию @Sven Hohenstein более быструю функцию).
set.seed(285)
dat <- data.frame(x=sample(-5:5, 1e8, replace=TRUE), y=rnorm(1e8))
dat1 <- copy(dat)
dtbl1 <- function() {setDT(dat)[x<0,x:=NA]}
dplr1 <- function() {dat1 %>% mutate(x = replace(x, x<0, NA))}
dplr2 <- function() {dat1 %>% mutate(x = NA ^ (x < 0) * x)}
microbenchmark(dtbl1(), dplr1(), dplr2(), unit='relative', times=20L)
#Unit: relative
# expr min lq mean median uq max neval cld
#dtbl1() 1.000000 1.000000 1.000000 1.000000 1.000000 1.000000 20 a
#dplr1() 2.523945 2.542412 2.536255 2.579379 2.518336 2.486757 20 b
#dplr2() 1.139216 1.089992 1.088753 1.058653 1.093906 1.100690 20 a
Обновленные тесты2
По просьбе @docendo discimus, снова сравнивая свою "новую" версию dplyr
с помощью data.table_1.9.5
и dplyr_0.4.0
.
ПРИМЕЧАНИЕ. Поскольку в коде discdus @docendo есть изменение, я изменил 0
на 0L
для data.table`
set.seed(285)
dat <- data.frame(x=sample(-5:5, 1e8, replace=TRUE), y=rnorm(1e8))
dat1 <- copy(dat)
dtbl1 <- function() {setDT(dat)[x<0L, x:= NA]}
dplr1 <- function() {dat1 %>% mutate(x = replace(x, which(x<0L), NA))}
dplr2 <- function() {dat1 %>% mutate(x = NA ^ (x < 0) * x)}
microbenchmark(dtbl1(), dplr1(), dplr2(), unit='relative', times=20L)
#Unit: relative
#expr min lq mean median uq max neval cld
#dtbl1() 1.000000 1.000000 1.000000 1.000000 1.000000 1.000000 20 a
#dplr1() 2.186055 2.183432 2.142293 2.222458 2.194450 1.442444 20 b
#dplr2() 2.919854 2.925795 2.852528 2.942700 2.954657 1.904249 20 c
данные
set.seed(24)
dat <- data.frame(x=sample(-5:5, 25, replace=TRUE), y=rnorm(25))
Ответ 4
Наиболее естественный подход в dplyr - использовать функцию na_if
.
Для одной переменной:
dat %<>% mutate(x = na_if(x, x < 0))
Для всех переменных:
dat %<>% mutate_all(~ na_if(., . < 0))
Если вы заинтересованы в замене определенного значения вместо диапазона для всех переменных:
dat %<>% mutate_all(na_if, 0)
Обратите внимание, что я использую оператор %<>%
из пакета magrittr
.