Слияние нескольких таблиц данных с одинаковыми именами столбцов
Я пытаюсь объединить (объединить) несколько таблиц данных (полученных с помощью fread из 5 файлов csv), чтобы сформировать единую таблицу данных. Я получаю сообщение об ошибке при попытке объединить 5 таблиц данных, но отлично работает, когда я объединяю только 4. MWE ниже:
# example data
DT1 <- data.table(x = letters[1:6], y = 10:15)
DT2 <- data.table(x = letters[1:6], y = 11:16)
DT3 <- data.table(x = letters[1:6], y = 12:17)
DT4 <- data.table(x = letters[1:6], y = 13:18)
DT5 <- data.table(x = letters[1:6], y = 14:19)
# this gives an error
Reduce(function(...) merge(..., all = TRUE, by = "x"), list(DT1, DT2, DT3, DT4, DT5))
Ошибка в файле merge.data.table(..., all = TRUE, by = "x" ): x имеет некоторые дублированное имя столбца: y.x, y.y. Удалите или переименуйте повторите попытку и повторите попытку.
# whereas this works fine
Reduce(function(...) merge(..., all = TRUE, by = "x"), list(DT1, DT2, DT3, DT4))
x y.x y.y y.x y.y
1: a 10 11 12 13
2: b 11 12 13 14
3: c 12 13 14 15
4: d 13 14 15 16
5: e 14 15 16 17
6: f 15 16 17 18
У меня есть обходное решение, где, если я изменяю имя второго столбца для DT1:
setnames(DT1, "y", "new_y")
# this works now
Reduce(function(...) merge(..., all = TRUE, by = "x"), list(DT1, DT2, DT3, DT4, DT5))
Почему это происходит, и есть ли способ слить произвольное количество таблиц данных с одинаковыми именами столбцов без изменения имени столбца?
Ответы
Ответ 1
Здесь можно сохранить счетчик в Reduce, если вы хотите переименовать во время слияния:
Reduce((function() {counter = 0
function(x, y) {
counter <<- counter + 1
d = merge(x, y, all = T, by = 'x')
setnames(d, c(head(names(d), -1), paste0('y.', counter)))
}})(), list(DT1, DT2, DT3, DT4, DT5))
# x y.x y.1 y.2 y.3 y.4
#1: a 10 11 12 13 14
#2: b 11 12 13 14 15
#3: c 12 13 14 15 16
#4: d 13 14 15 16 17
#5: e 14 15 16 17 18
#6: f 15 16 17 18 19
Ответ 2
Если это только те 5 данных (где x одинаково для всех типов данных), вы также можете использовать вложенные соединения:
# set the key for each datatable to 'x'
setkey(DT1,x)
setkey(DT2,x)
setkey(DT3,x)
setkey(DT4,x)
setkey(DT5,x)
# the nested join
mergedDT1 <- DT1[DT2[DT3[DT4[DT5]]]]
Или как @Frank сказал в комментариях:
DTlist <- list(DT1,DT2,DT3,DT4,DT5)
Reduce(function(X,Y) X[Y], DTlist)
который дает:
x y1 y2 y3 y4 y5
1: a 10 11 12 13 14
2: b 11 12 13 14 15
3: c 12 13 14 15 16
4: d 13 14 15 16 17
5: e 14 15 16 17 18
6: f 15 16 17 18 19
Это дает тот же результат, что и:
mergedDT2 <- Reduce(function(...) merge(..., all = TRUE, by = "x"), list(DT1, DT2, DT3, DT4, DT5))
> identical(mergedDT1,mergedDT2)
[1] TRUE
Если столбцы x не имеют одинаковых значений, вложенное соединение не даст желаемого решения:
DT1[DT2[DT3[DT4[DT5[DT6]]]]]
это дает:
x y1 y2 y3 y4 y5 y6
1: b 11 12 13 14 15 15
2: c 12 13 14 15 16 16
3: d 13 14 15 16 17 17
4: e 14 15 16 17 18 18
5: f 15 16 17 18 19 19
6: g NA NA NA NA NA 20
В то время как:
Reduce(function(...) merge(..., all = TRUE, by = "x"), list(DT1, DT2, DT3, DT4, DT5, DT6))
дает:
x y1 y2 y3 y4 y5 y6
1: a 10 11 12 13 14 NA
2: b 11 12 13 14 15 15
3: c 12 13 14 15 16 16
4: d 13 14 15 16 17 17
5: e 14 15 16 17 18 18
6: f 15 16 17 18 19 19
7: g NA NA NA NA NA 20
Используемые данные:
Чтобы сделать код с Reduce, я изменил имена столбцов y.
DT1 <- data.table(x = letters[1:6], y1 = 10:15)
DT2 <- data.table(x = letters[1:6], y2 = 11:16)
DT3 <- data.table(x = letters[1:6], y3 = 12:17)
DT4 <- data.table(x = letters[1:6], y4 = 13:18)
DT5 <- data.table(x = letters[1:6], y5 = 14:19)
DT6 <- data.table(x = letters[2:7], y6 = 15:20, key="x")
Ответ 3
stack и reshape Я не думаю, что это точно соответствует функции merge, но...
mycols <- "x"
DTlist <- list(DT1,DT2,DT3,DT4,DT5)
dcast(rbindlist(DTlist,idcol=TRUE), paste0(paste0(mycols,collapse="+"),"~.id"))
# x 1 2 3 4 5
# 1: a 10 11 12 13 14
# 2: b 11 12 13 14 15
# 3: c 12 13 14 15 16
# 4: d 13 14 15 16 17
# 5: e 14 15 16 17 18
# 6: f 15 16 17 18 19
У меня нет смысла, если бы это продолжалось до большего количества столбцов, чем y.
merge-assign
DT <- Reduce(function(...) merge(..., all = TRUE, by = mycols),
lapply(DTlist,`[.noquote`,mycols))
for (k in seq_along(DTlist)){
js = setdiff( names(DTlist[[k]]), mycols )
DT[DTlist[[k]], paste0(js,".",k) := mget(paste0("i.",js)), on=mycols, by=.EACHI]
}
# x y.1 y.2 y.3 y.4 y.5
# 1: a 10 11 12 13 14
# 2: b 11 12 13 14 15
# 3: c 12 13 14 15 16
# 4: d 13 14 15 16 17
# 5: e 14 15 16 17 18
# 6: f 15 16 17 18 19
(Я не уверен, что это полностью распространяется на другие случаи. Трудно сказать, потому что пример OP действительно не требует полной функциональности merge. В случае OP с mycols="x" и x будучи одинаковым во всех DT*, очевидно, что слияние не подходит, как упоминалось в @eddi. Однако общая проблема интересна тем, что я пытаюсь атаковать здесь.)
Ответ 4
Использование reshaping дает вам большую гибкость в том, как вы хотите называть свои столбцы.
library(dplyr)
library(tidyr)
list(DT1, DT2, DT3, DT4, DT5) %>%
bind_rows(.id = "source") %>%
mutate(source = paste("y", source, sep = ".")) %>%
spread(source, y)
Или это будет работать
library(dplyr)
library(tidyr)
list(DT1 = DT1, DT2 = DT2, DT3 = DT3, DT4 = DT4, DT5 = DT5) %>%
bind_rows(.id = "source") %>%
mutate(source = paste(source, "y", sep = ".")) %>%
spread(source, y)
Ответ 5
Другой способ сделать это:
dts <- list(DT1, DT2, DT3, DT4, DT5)
names(dts) <- paste("y", seq_along(dts), sep="")
data.table::dcast(rbindlist(dts, idcol="id"), x ~ id, value.var = "y")
# x y1 y2 y3 y4 y5
#1: a 10 11 12 13 14
#2: b 11 12 13 14 15
#3: c 12 13 14 15 16
#4: d 13 14 15 16 17
#5: e 14 15 16 17 18
#6: f 15 16 17 18 19
Добавляется имя пакета в "data.table:: dcast", чтобы гарантировать, что вызов возвращает таблицу данных, а не кадр данных, даже если пакет "reshape2" также загружен. Не упоминая имя пакета явно, можно использовать функцию dcast из пакета reshape2, которая работает с data.frame и возвращает data.frame вместо data.table.
Ответ 6
В качестве альтернативы вы могли бы setNames для столбцов раньше и сделать merge как этот
dts = list(DT1, DT2, DT3, DT4, DT5)
names(dts) = paste('DT', c(1:5), sep = '')
dtlist = lapply(names(dts),function(i)
setNames(dts[[i]], c('x', paste('y',i,sep = '.'))))
Reduce(function(...) merge(..., all = T), dtlist)
# x y.DT1 y.DT2 y.DT3 y.DT4 y.DT5
#1: a 10 11 12 13 14
#2: b 11 12 13 14 15
#3: c 12 13 14 15 16
#4: d 13 14 15 16 17
#5: e 14 15 16 17 18
#6: f 15 16 17 18 19
