कैसे जुड़ें (मर्ज) डेटा फ़्रेम (आंतरिक, बाहरी, बाएँ, दाएँ)


1231

दो डेटा फ़्रेम दिए गए:

df1 = data.frame(CustomerId = c(1:6), Product = c(rep("Toaster", 3), rep("Radio", 3)))
df2 = data.frame(CustomerId = c(2, 4, 6), State = c(rep("Alabama", 2), rep("Ohio", 1)))

df1
#  CustomerId Product
#           1 Toaster
#           2 Toaster
#           3 Toaster
#           4   Radio
#           5   Radio
#           6   Radio

df2
#  CustomerId   State
#           2 Alabama
#           4 Alabama
#           6    Ohio

मैं डेटाबेस शैली, यानी, sql शैली, जॉइन कैसे कर सकता हूं ? अर्थात्, मुझे कैसे मिलेगा:


अतिरिक्त श्रेय:

मैं एक SQL स्टाइल स्टेटमेंट का चयन कैसे कर सकता हूं?


4
stat545-ubc.github.io/bit001_dplyr-cheatsheet.html or इस सवाल का मेरा पसंदीदा जवाब है
isomorphismes

RStudio द्वारा बनाए गए और बनाए रखने वाली dplyr धोखा शीट के साथ डेटा परिवर्तन भी d infrr
आर्थर यिप

2
यदि आप पंडों के डेटाफ्रेम को मर्ज करने के बारे में जानना चाहते हैं , तो वह संसाधन यहां पाया जा सकता है
CS95

जवाबों:


1347

mergeफ़ंक्शन और इसके वैकल्पिक मापदंडों का उपयोग करके :

इनर जॉइन: merge(df1, df2) इन उदाहरणों के लिए काम करेगा क्योंकि R स्वचालित रूप से सामान्य चर नामों से फ़्रेम में शामिल हो जाता है, लेकिन आपmerge(df1, df2, by = "CustomerId")यह सुनिश्चितकरना चाहते हैंकि आप केवल उन फ़ील्ड्स से मिलान कर रहे हैं जो आप चाहते थे। आपby.xऔरby.yपैरामीटर काउपयोग भी कर सकते हैंयदि मिलान चर में अलग-अलग डेटा फ़्रेम में अलग-अलग नाम हैं।

बाहरी भाग: merge(x = df1, y = df2, by = "CustomerId", all = TRUE)

बायां बाहरी: merge(x = df1, y = df2, by = "CustomerId", all.x = TRUE)

सही बाहरी: merge(x = df1, y = df2, by = "CustomerId", all.y = TRUE)

क्रॉस जॉइन: merge(x = df1, y = df2, by = NULL)

आंतरिक जुड़ाव के साथ, आप संभवतः "CustomerId" को R से मिलान वाले चर के रूप में स्पष्ट रूप से पास करना चाहेंगे। मुझे लगता है कि पहचानकर्ताओं को स्पष्ट रूप से बताना हमेशा अच्छा होता है, जिस पर आप विलय करना चाहते हैं; यह सुरक्षित है अगर इनपुट डेटा.फ्रेम अप्रत्याशित रूप से बदलते हैं और बाद में पढ़ने में आसान होते हैं।

आप byएक वेक्टर, जैसे, देकर कई कॉलम पर विलय कर सकते हैं by = c("CustomerId", "OrderId")

यदि मर्ज करने के लिए स्तंभ नाम समान नहीं हैं, तो आप निर्दिष्ट कर सकते हैं, उदाहरण के लिए, by.x = "CustomerId_in_df1", by.y = "CustomerId_in_df2"जहां CustomerId_in_df1पहले डेटा फ़्रेम CustomerId_in_df2में कॉलम का नाम है और दूसरे डेटा फ़्रेम में कॉलम का नाम है। (यदि आप कई स्तंभों पर मर्ज करने की आवश्यकता है तो ये वैक्टर भी हो सकते हैं।)


2
@MattParker मैं डेटाफ्रेम के खिलाफ जटिल प्रश्नों के एक पूरे मेजबान के लिए sqldf पैकेज का उपयोग कर रहा हूं, वास्तव में इसे स्वयं-क्रॉस जॉइन करने की आवश्यकता है (यानी स्वयं डेटा-वर्कफ़्लो क्रॉस-ज्वाइनिंग) मुझे आश्चर्य है कि यह प्रदर्शन के दृष्टिकोण से कैसे तुलना करता है ... । ???
निकोलस हैमिल्टन

9
@ADP मैंने वास्तव में sqldf का उपयोग नहीं किया है, इसलिए मुझे गति के बारे में निश्चित नहीं है। यदि प्रदर्शन आपके लिए एक प्रमुख मुद्दा है, तो आपको data.tableपैकेज पर भी ध्यान देना चाहिए - यह सिंटैक्स में शामिल होने का एक नया सेट है, लेकिन हम यहां जिस चीज के बारे में बात कर रहे हैं, उससे कहीं अधिक तेजी से यह तेज है।
मैट पार्कर

5
अधिक स्पष्टता और स्पष्टीकरण के साथ ..... mkmanu.wordpress.com/2016/04/08/…
मनोज कुमार

42
एक मामूली जोड़ जो मेरे लिए मददगार था - जब आप एक से अधिक स्तंभों का उपयोग करके विलय करना चाहते हैं:merge(x=df1,y=df2, by.x=c("x_col1","x_col2"), by.y=c("y_col1","y_col2"))
दिलीप कुमार पचिगोला

8
यह data.tableअब में काम करता है , एक ही कार्य बस तेजी से।
मारबेल

222

मैं Gabor Grothendieck के sqldf पैकेज की जाँच करने की सलाह दूंगा , जो आपको SQL में इन परिचालनों को व्यक्त करने की अनुमति देता है।

library(sqldf)

## inner join
df3 <- sqldf("SELECT CustomerId, Product, State 
              FROM df1
              JOIN df2 USING(CustomerID)")

## left join (substitute 'right' for right join)
df4 <- sqldf("SELECT CustomerId, Product, State 
              FROM df1
              LEFT JOIN df2 USING(CustomerID)")

मैं एसक्यूएल सिंटैक्स को अपने आर समतुल्य की तुलना में सरल और अधिक प्राकृतिक मानता हूं (लेकिन यह सिर्फ मेरे आरडीबीएमएस पूर्वाग्रह को दर्शा सकता है)।

जॉब्स के बारे में अधिक जानकारी के लिए गैबोर के स्क्वैल्डफ गीथहब देखें ।


198

नहीं है data.table एक आंतरिक में शामिल होने, जो बहुत समय और स्मृति कुशल (और कुछ बड़े data.frames के लिए आवश्यक) है के लिए दृष्टिकोण:

library(data.table)

dt1 <- data.table(df1, key = "CustomerId") 
dt2 <- data.table(df2, key = "CustomerId")

joined.dt1.dt.2 <- dt1[dt2]

mergedata.tables पर भी काम करता है (जैसा कि यह सामान्य है और कॉल merge.data.table)

merge(dt1, dt2)

stackoverflow पर data.table डॉक्यूमेंट किया गया:
data.table मर्ज ऑपरेशन कैसे करें।
SQL में विदेशी कुंजियों पर अनुवाद SQL डेटा से जुड़ता है।
बड़ा डेटा के लिए मर्ज करने के लिए सिंटैक्स कुशल विकल्प। R एक डेटा के लिए एक बेसिक लेफ्ट ऑउट जॉइन
कैसे करें। आर में?

फिर भी एक अन्य विकल्प प्लायर पैकेज joinमें पाया जाने वाला कार्य है

library(plyr)

join(df1, df2,
     type = "inner")

#   CustomerId Product   State
# 1          2 Toaster Alabama
# 2          4   Radio Alabama
# 3          6   Radio    Ohio

के लिए विकल्प type: inner, left, right, full

से ?join: इसके विपरीत merge, [ join] x के क्रम को बरकरार रखता है चाहे कोई भी प्रकार हो, उसका उपयोग किया जाता है।


8
उल्लेख करने के लिए +1 plyr::join। माइक्रोबेनमार्किंग इंगित करता है, कि यह लगभग 3 गुना तेजी से प्रदर्शन करता है merge
बीस्टरफील्ड

20
हालांकि, data.tableदोनों की तुलना में बहुत तेज है। एसओ में भी बहुत समर्थन है, मुझे कई पैकेज लेखकों को यहां सवालों के जवाब देते हुए नहीं देखा जाता है जैसा कि अक्सर data.tableलेखक या योगदानकर्ता करते हैं।
मर्बेल

1
डेटा फ़्रेमों की सूची कोdata.table मर्ज करने के लिए सिंटैक्स क्या है ?
अलेक्सांद्र ब्लेक

5
कृपया ध्यान दें: dt1 [dt2] एक सही बाहरी जुड़ाव है ("शुद्ध" इनर जॉइन नहीं) ताकि dt2 की सभी पंक्तियाँ परिणाम का हिस्सा हों, भले ही dt1 में कोई मिलान पंक्ति न हो। प्रभाव: यदि आप dt2 में प्रमुख मान रखते हैं तो आपके पास संभावित अवांछित पंक्तियाँ होती हैं जो dt1 के प्रमुख मूल्यों से मेल नहीं खाती हैं।
R Yoda

8
आप केवल nomatch = 0Lउस मामले में निर्दिष्ट कर सकते हैं ।
डेविड अरेनबर्ग

181

आप हैडली विकम के कमाल के dplyr पैकेज का उपयोग करके जॉइन कर सकते हैं ।

library(dplyr)

#make sure that CustomerId cols are both type numeric
#they ARE not using the provided code in question and dplyr will complain
df1$CustomerId <- as.numeric(df1$CustomerId)
df2$CustomerId <- as.numeric(df2$CustomerId)

जुड़ने वाले म्यूटिंग: df2 में मैचों का उपयोग करके df1 में कॉलम जोड़ें

#inner
inner_join(df1, df2)

#left outer
left_join(df1, df2)

#right outer
right_join(df1, df2)

#alternate right outer
left_join(df2, df1)

#full join
full_join(df1, df2)

फ़िल्टरिंग जोड़: df1 में पंक्तियों को फ़िल्टर करें, स्तंभों को संशोधित न करें

semi_join(df1, df2) #keep only observations in df1 that match in df2.
anti_join(df1, df2) #drops all observations in df1 that match in df2.

16
आपको CustomerIdसंख्यात्मक में कनवर्ट करने की आवश्यकता क्यों है ? मैं किसी भी (दोनों के लिए दस्तावेज में उल्लेख नहीं देख पा रहे हैं plyrऔर dplyrप्रतिबंध के इस प्रकार के बारे में)। क्या आपका कोड गलत तरीके से काम करेगा, यदि मर्ज कॉलम characterटाइप का होगा (विशेष रूप से दिलचस्पी का plyr)? क्या मैं कुछ भूल रहा हूँ?
B बजे अलेक्सांद्र ब्लेक ऑक्ट

क्या df1 में केवल टिप्पणियों को रखने के लिए अर्ध_जोइन (df1, df2, df3, df4) का उपयोग किया जा सकता है जो बाकी स्तंभों से मेल खाते हैं?
घोष बिस्वजीत

@GhoseBishwajit मान लें कि आप स्तंभों के बजाय बाकी डेटाफ़्रेम का उपयोग करते हैं, तो आप df2, df3 और df4 पर rbind का उपयोग कर सकते हैं यदि उनके पास समान संरचना है जैसे अर्ध_join (df1, rbind (df2, df4))
abhy3

हां मेरा मतलब डेटाफ्रेम था। लेकिन वे समान संरचना नहीं हैं क्योंकि कुछ निश्चित पंक्तियों पर गायब हैं। चार डेटाफ्रेम के लिए, मेरे पास विभिन्न देशों के लिए चार अलग-अलग संकेतकों (जीडीपी, जीएनपी जीआईएनआई, एमएमआर) पर डेटा है। मैं डेटाफ्रेम में एक तरह से शामिल होना चाहता हूं जो केवल उन सभी चार संकेतकों के लिए मौजूद देशों को रखता है।
घोष बिस्वजीत

86

आर विकी पर ऐसा करने के कुछ अच्छे उदाहरण हैं । मैं यहाँ कुछ चुरा लूंगा:

मर्ज विधि

चूँकि आपकी कुंजियों का नाम आंतरिक जुड़ने के लिए उसी तरह से है जिस तरह से मर्ज किया गया है ():

merge(df1,df2)

पूर्ण आंतरिक जुड़ाव (दोनों तालिकाओं से सभी रिकॉर्ड) "सभी" कीवर्ड के साथ बनाया जा सकता है:

merge(df1,df2, all=TRUE)

df1 और df2 के एक बाएं बाहरी जोड़:

merge(df1,df2, all.x=TRUE)

df1 और df2 का एक सही बाहरी जोड़:

merge(df1,df2, all.y=TRUE)

आप उन्हें ', थप्पड़' उन्हें फ्लिप कर सकते हैं और उन्हें अन्य दो बाहरी जुड़ावों के बारे में बताने के लिए उन्हें नीचे रगड़ सकते हैं :)

सदस्यता विधि

एक सबस्क्रिप्ट विधि का उपयोग करके बाईं ओर df1 के साथ एक बाहरी बाहरी जुड़ाव होगा:

df1[,"State"]<-df2[df1[ ,"Product"], "State"]

बाहरी जोड़ के अन्य संयोजन बाईं बाहरी सम्मिलित सबस्क्रिप्ट उदाहरण को मगल करके बनाया जा सकता है। (हाँ, मुझे पता है कि यह कहने के बराबर है कि "मैं इसे पाठक के लिए एक अभ्यास के रूप में छोड़ दूँगा ...")


4
"आर विकी" लिंक टूट गया है।
zx8754

79

2014 में नया:

विशेष रूप से यदि आप सामान्य रूप से डेटा हेरफेर में रुचि रखते हैं (सॉर्टिंग, फ़िल्टरिंग, सब्मिटिंग, संक्षेपण आदि सहित), तो आपको निश्चित रूप से एक नज़र रखना चाहिए dplyr, जो विभिन्न प्रकार के कार्यों के साथ आता है, जो विशेष रूप से डेटा फ़्रेम के साथ आपके काम को सुविधाजनक बनाने के लिए डिज़ाइन किए गए हैं। और कुछ अन्य डेटाबेस प्रकार। यहां तक ​​कि यह काफी विस्तृत SQL इंटरफ़ेस भी प्रदान करता है, और यहां तक ​​कि फ़ंक्शन (अधिकांश) SQL कोड को सीधे आर में परिवर्तित करने के लिए।

Dplyr पैकेज में शामिल होने वाले चार कार्य हैं (उद्धृत करने के लिए):

  • inner_join(x, y, by = NULL, copy = FALSE, ...): x से वे सभी पंक्तियाँ लौटाएँ जहाँ y और अन्य कॉलम x और y से मेल खाने वाले मान हैं
  • left_join(x, y, by = NULL, copy = FALSE, ...): x से सभी पंक्तियाँ लौटाएँ, और सभी स्तंभों से x और y
  • semi_join(x, y, by = NULL, copy = FALSE, ...): x से सभी पंक्तियाँ लौटाएँ जहाँ y से मेल खाते हुए मान हों, x से केवल कॉलम रखते हुए।
  • anti_join(x, y, by = NULL, copy = FALSE, ...): x से वे सभी पंक्तियाँ लौटाएँ जहाँ y से मेल खाते हुए मान नहीं हैं, केवल x से कॉलम रखते हुए

यह सब यहाँ बहुत विस्तार से है।

कॉलम का चयन करके किया जा सकता है select(df,"column")। यदि आपके लिए SQL-ish पर्याप्त नहीं है, तो यह sql()फ़ंक्शन है, जिसमें आप SQL कोड को इस रूप में दर्ज कर सकते हैं, और यह आपके द्वारा निर्दिष्ट किए गए ऑपरेशन को वैसे ही करेगा जैसे आप R में लिख रहे थे (अधिक जानकारी के लिए, कृपया देखें करने के लिए dplyr / डेटाबेस शब्दचित्र )। उदाहरण के लिए, यदि सही तरीके से लागू किया जाता है, sql("SELECT * FROM hflights")तो "hflights" dplyr तालिका (एक "tbl") से सभी कॉलम का चयन करेंगे।


निश्चित रूप से सर्वोत्तम समाधान ने इस बात को महत्व दिया कि पिछले दो वर्षों में dplyr पैकेज में वृद्धि हुई है।
मार्को फुमगल्ली

72

डेटासेट में शामिल होने के लिए डेटाटेबल तरीकों पर अपडेट करें। प्रत्येक प्रकार के जुड़ने के लिए नीचे दिए गए उदाहरण देखें। दो विधियाँ हैं, एक [.data.tableजब दूसरी data.table पास करने के लिए। पहला सब्मिट करने के लिए तर्क के रूप में, दूसरा तरीका mergeफ़ंक्शन का उपयोग करना है जो तेजी से data.table पद्धति को भेजता है।

df1 = data.frame(CustomerId = c(1:6), Product = c(rep("Toaster", 3), rep("Radio", 3)))
df2 = data.frame(CustomerId = c(2L, 4L, 7L), State = c(rep("Alabama", 2), rep("Ohio", 1))) # one value changed to show full outer join

library(data.table)

dt1 = as.data.table(df1)
dt2 = as.data.table(df2)
setkey(dt1, CustomerId)
setkey(dt2, CustomerId)
# right outer join keyed data.tables
dt1[dt2]

setkey(dt1, NULL)
setkey(dt2, NULL)
# right outer join unkeyed data.tables - use `on` argument
dt1[dt2, on = "CustomerId"]

# left outer join - swap dt1 with dt2
dt2[dt1, on = "CustomerId"]

# inner join - use `nomatch` argument
dt1[dt2, nomatch=NULL, on = "CustomerId"]

# anti join - use `!` operator
dt1[!dt2, on = "CustomerId"]

# inner join - using merge method
merge(dt1, dt2, by = "CustomerId")

# full outer join
merge(dt1, dt2, by = "CustomerId", all = TRUE)

# see ?merge.data.table arguments for other cases

नीचे बेंचमार्क टेस्ट बेस R, sqldf, dplyr और data.table।
बेंचमार्क परीक्षण unkeyed / unindexed डेटासेट। बेंचमार्क 50M-1 पंक्तियों डेटासेट पर किया जाता है, इसमें शामिल होने वाले कॉलम पर 50M-2 सामान्य मूल्य होते हैं, इसलिए प्रत्येक परिदृश्य (आंतरिक, बाएं, दाएं, पूर्ण) का परीक्षण किया जा सकता है और शामिल होने के लिए अभी भी तुच्छ नहीं है। यह शामिल होने का प्रकार है जो अच्छी तरह से तनाव एल्गोरिदम में शामिल होता है। समय के रूप में कर रहे हैं sqldf:0.4.11, dplyr:0.7.8, data.table:1.12.0

# inner
Unit: seconds
   expr       min        lq      mean    median        uq       max neval
   base 111.66266 111.66266 111.66266 111.66266 111.66266 111.66266     1
  sqldf 624.88388 624.88388 624.88388 624.88388 624.88388 624.88388     1
  dplyr  51.91233  51.91233  51.91233  51.91233  51.91233  51.91233     1
     DT  10.40552  10.40552  10.40552  10.40552  10.40552  10.40552     1
# left
Unit: seconds
   expr        min         lq       mean     median         uq        max 
   base 142.782030 142.782030 142.782030 142.782030 142.782030 142.782030     
  sqldf 613.917109 613.917109 613.917109 613.917109 613.917109 613.917109     
  dplyr  49.711912  49.711912  49.711912  49.711912  49.711912  49.711912     
     DT   9.674348   9.674348   9.674348   9.674348   9.674348   9.674348       
# right
Unit: seconds
   expr        min         lq       mean     median         uq        max
   base 122.366301 122.366301 122.366301 122.366301 122.366301 122.366301     
  sqldf 611.119157 611.119157 611.119157 611.119157 611.119157 611.119157     
  dplyr  50.384841  50.384841  50.384841  50.384841  50.384841  50.384841     
     DT   9.899145   9.899145   9.899145   9.899145   9.899145   9.899145     
# full
Unit: seconds
  expr       min        lq      mean    median        uq       max neval
  base 141.79464 141.79464 141.79464 141.79464 141.79464 141.79464     1
 dplyr  94.66436  94.66436  94.66436  94.66436  94.66436  94.66436     1
    DT  21.62573  21.62573  21.62573  21.62573  21.62573  21.62573     1

इस बात से अवगत रहें कि अन्य प्रकार के जोड़ हैं जिनका आप उपयोग कर सकते हैं data.table:
- में शामिल होने पर अद्यतन अगर आप अपने मुख्य तालिका के लिए एक और मेज से मूल्यों देखने के लिए चाहते हैं -
- में शामिल होने पर कुल अगर आप कुंजी पर एकत्र करने के लिए आप शामिल हो रहे हैं आप नहीं करना चाहते हैं - सभी परिणाम में शामिल होने के अमल में लाना करने के लिए
- में शामिल होने ओवरलैपिंग - अगर आप सीमाओं के आधार पर मर्ज करना चाहते हैं
- में शामिल होने के रोलिंग - अगर आप मर्ज पूर्ववर्ती / उन्हें आगे या पीछे रोलिंग द्वारा पंक्तियों का अनुसरण करने से मूल्यों के लिए मैच के लिए सक्षम होना चाहते हैं
- लुढ़कते नॉन-इक्वी जॉइन - यदि आपका जुड़ने की स्थिति गैर-बराबर है

पुन: पेश करने के लिए कोड:

library(microbenchmark)
library(sqldf)
library(dplyr)
library(data.table)
sapply(c("sqldf","dplyr","data.table"), packageVersion, simplify=FALSE)

n = 5e7
set.seed(108)
df1 = data.frame(x=sample(n,n-1L), y1=rnorm(n-1L))
df2 = data.frame(x=sample(n,n-1L), y2=rnorm(n-1L))
dt1 = as.data.table(df1)
dt2 = as.data.table(df2)

mb = list()
# inner join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x"),
               sqldf = sqldf("SELECT * FROM df1 INNER JOIN df2 ON df1.x = df2.x"),
               dplyr = inner_join(df1, df2, by = "x"),
               DT = dt1[dt2, nomatch=NULL, on = "x"]) -> mb$inner

# left outer join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x", all.x = TRUE),
               sqldf = sqldf("SELECT * FROM df1 LEFT OUTER JOIN df2 ON df1.x = df2.x"),
               dplyr = left_join(df1, df2, by = c("x"="x")),
               DT = dt2[dt1, on = "x"]) -> mb$left

# right outer join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x", all.y = TRUE),
               sqldf = sqldf("SELECT * FROM df2 LEFT OUTER JOIN df1 ON df2.x = df1.x"),
               dplyr = right_join(df1, df2, by = "x"),
               DT = dt1[dt2, on = "x"]) -> mb$right

# full outer join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x", all = TRUE),
               dplyr = full_join(df1, df2, by = "x"),
               DT = merge(dt1, dt2, by = "x", all = TRUE)) -> mb$full

lapply(mb, print) -> nul

क्या यह दिखाने के लायक है कि विभिन्न कॉलम नामों का उपयोग कैसे किया जाए on = ?
सिम्बोलिक्सएयू

1
@Symbolix हम 1.9.8 के रिलीज़ होने का इंतज़ार कर सकते हैं क्योंकि यह गैर- on
इक्वी जॉइन

एक और विचार; क्या यह ध्यान देने योग्य merge.data.tableहै कि डिफ़ॉल्ट sort = TRUEतर्क है, जो मर्ज के दौरान एक कुंजी जोड़ता है और परिणाम में वहां छोड़ देता है। यह देखने के लिए कुछ है, खासकर यदि आप चाबियाँ सेट करने से बचने की कोशिश कर रहे हैं।
प्रतीक चिह्न

1
मुझे आश्चर्य हुआ कि किसी ने उल्लेख किया है कि अगर कोई
दुपट्टे का

@statquant आप कार्टेसियन के साथ जुड़ सकते हैं data.table, आपका क्या मतलब है? क्या आप कृपया अधिक विशिष्ट हो सकते हैं।
डेविड अरेनबर्ग

32

0.4 से dplyr ने उन सभी जोड़ो को लागू किया outer_join, लेकिन यह ध्यान देने योग्य था कि 0.4 से पहले के कुछ रिलीज के लिए यह पेशकश नहीं करता था outer_join, और परिणामस्वरूप बहुत बुरा हैकी वर्कअराउंड उपयोगकर्ता कोड था जो काफी समय से चल रहा था। बाद में (आप अभी भी SO में ऐसे कोड पा सकते हैं, कग्गल उत्तर, उस अवधि से जीथब। इसलिए यह उत्तर अभी भी एक उपयोगी उद्देश्य प्रदान करता है।)

जॉइन-रिलेटेड रिलीज़ हाइलाइट्स :

v0.5 (6/2016)

  • POSIXct प्रकार, टाइमज़ोन, डुप्लिकेट, विभिन्न कारक स्तरों के लिए हैंडलिंग। बेहतर त्रुटियां और चेतावनी।
  • नया प्रत्यय तर्क को नियंत्रित करने के लिए जो प्रत्यय चर नामों को प्राप्त करता है (# 1296)

v0.4.0 (1/2015)

  • सही जॉइन और बाहरी जॉइन को लागू करें (# 96)
  • म्यूटिंग जोड़, जो एक पंक्ति में दूसरे से मेल खाते में एक तालिका में नए चर जोड़ते हैं। फ़िल्टरिंग जोड़, जो एक तालिका से टिप्पणियों को फ़िल्टर करते हैं, इस आधार पर कि वे दूसरे तालिका में अवलोकन से मेल खाते हैं या नहीं।

v0.3 (10/2014)

  • अब प्रत्येक तालिका में अलग-अलग चर द्वारा छोड़ा जा सकता है: df1%>% left_join (df2, c ("var1" = "var2"))

v0.2 (5/2014)

  • * _join () अब कॉलम नाम (# 324) की सीमा नहीं

v0.1.3 (4/2014)

उस मुद्दे में हैडली की टिप्पणियों के अनुसार वर्कअराउंड:

  • right_join (x, y) पंक्तियों के संदर्भ में बाएँ_join (y, x) के समान है, बस कॉलम अलग-अलग ऑर्डर होंगे। आसानी से चयन (new_column_order) के साथ काम किया
  • आउटर_जॉइन मूल रूप से यूनियन (लेफ्ट_जॉइन (x, y), राइट_जॉइन (x, y)) है - यानी दोनों डेटा फ्रेम में सभी पंक्तियों को संरक्षित करता है।

1
@Gregor: नहीं, इसे हटाया नहीं जाना चाहिए। आर उपयोगकर्ताओं के लिए यह जानना महत्वपूर्ण है कि शामिल होने की क्षमताएं कई वर्षों से गायब थीं, क्योंकि अधिकांश कोड में वर्कअराउंड या तदर्थ मैनुअल कार्यान्वयन, या सूचकांकों के वैक्टर के साथ तदर्थ शामिल हैं, या खराब अभी भी इन पैकेजों का उपयोग करने से बचता है। संचालन बिल्कुल। हर हफ्ते मैं एसओ पर ऐसे सवाल देखता हूं। हम आने वाले कई वर्षों के लिए भ्रम को पूर्ववत करेंगे।
smci

@Gregor और अन्य जिन्होंने पूछा: अद्यतन, ऐतिहासिक परिवर्तनों का सारांश और जब यह प्रश्न पूछा गया था तो कई वर्षों तक गायब था। इससे पता चलता है कि उस अवधि का कोड प्रमुख रूप से हैक किया गया था, या डेलीयर जॉइन का उपयोग करने से बचा गया और मर्ज पर वापस गिर गया। यदि आप एसओ और कागल पर ऐतिहासिक कोडबेस की जांच करते हैं, तो आप अभी भी गोद लेने में देरी और गंभीर रूप से भ्रमित उपयोगकर्ता कोड देख सकते हैं। इसके परिणामस्वरूप आपको पता चल जाएगा कि क्या आपको अभी भी इस उत्तर की कमी है।
एसएमसीआई

@Gregor: हममें से जिन्होंने इसे 2014 के मध्य में अपनाया था, उन्होंने सबसे अच्छा पल नहीं चुना। (मुझे लगा कि 2013 में पहले (0.0.x) रिलीज़ हुई थीं, लेकिन नहीं, मेरी गलती है।) बावजूद, 2015 में अभी भी बहुत सारे बकवास कोड थे, यही मुझे इस पोस्ट करने के लिए प्रेरित कर रहा था, मैं इसे ध्वस्त करने की कोशिश कर रहा था। crud मैं Kaggle, github, SO पर पाया।
एसएमसीआई

2
हां, मैं समझता हूं, और मुझे लगता है कि आप इसका अच्छा काम करते हैं। (मैं शुरुआती दौर भी था, और जब मैं अभी भी तरह dplyrवाक्य रचना, से परिवर्तन lazyevalकरने के लिए rlangबैकेंड कोड का एक समूह मेरे लिए तोड़ दिया, जो दिया मुझे अधिक जानने के लिए data.table, और अब मैं ज्यादातर का उपयोग data.table।)
ग्रेगर थॉमस

@Gregor: दिलचस्प है, क्या आप मुझे किसी भी प्रश्नोत्तर (तुम्हारा या किसी और का) के बारे में बता सकते हैं जो इसे कवर करते हैं? लगता है कि हमारी plyr/ dplyr/ data.table/ tidyverse को अपनाने में से प्रत्येक पर निर्भर करता है कि हम किस वर्ष शुरू किया था, और क्या (भ्रूण) संकुल राज्य में वापस थे, जैसा कि अब विरोध किया गया है ...
smci

25

~ 1 मिलियन पंक्तियों के साथ दो डेटा फ़्रेमों को जोड़ने में, प्रत्येक में 2 कॉलम और दूसरे के साथ ~ 20, मैंने आश्चर्यजनक रूप merge(..., all.x = TRUE, all.y = TRUE)से तब तेजी से पाया है dplyr::full_join()। यह dplyr v0.4 के साथ है

मर्ज ~ 17 सेकंड लेता है, full_join ~ 65 सेकंड लेता है।

हालांकि, आमतौर पर जोड़-तोड़ के कामों के लिए मैं डिफ़ॉल्ट रूप से भोजन करता हूं।


24

0..*:0..1कार्डिनैलिटी के साथ लेफ्ट जॉइन होने या कार्डिनैलिटी के साथ राइट ज्वाइन होने की स्थिति में जॉइन 0..1:0..*करने वाले जॉइनर ( 0..1टेबल) से सीधे एकतरफा कॉलम को इन-प्लेस करना संभव है ।0..* , और इस तरह से निर्माण से बचना होगा डेटा की एक पूरी तरह से नई तालिका। इसके लिए जॉइन से जॉइनर और इंडेक्सिंग + में असाइनमेंट के अनुसार जॉइनर की पंक्तियों को ऑर्डर करने के लिए प्रमुख कॉलम से मिलान करना पड़ता है।

यदि कुंजी एक एकल स्तंभ है, तो हम match()मिलान करने के लिए एकल कॉल का उपयोग कर सकते हैं । इस मामले को मैं इस उत्तर में कवर करूंगा।

यहाँ ओपी पर आधारित एक उदाहरण है, सिवाय इसके कि मैंने एक अतिरिक्त पंक्ति को df27 की आईडी के साथ जोड़ा है ताकि जॉइनर में गैर-मिलान कुंजी के मामले का परीक्षण किया जा सके। यह प्रभावी रूप से df1शामिल होने के लिए छोड़ दिया गया है df2:

df1 <- data.frame(CustomerId=1:6,Product=c(rep('Toaster',3L),rep('Radio',3L)));
df2 <- data.frame(CustomerId=c(2L,4L,6L,7L),State=c(rep('Alabama',2L),'Ohio','Texas'));
df1[names(df2)[-1L]] <- df2[match(df1[,1L],df2[,1L]),-1L];
df1;
##   CustomerId Product   State
## 1          1 Toaster    <NA>
## 2          2 Toaster Alabama
## 3          3 Toaster    <NA>
## 4          4   Radio Alabama
## 5          5   Radio    <NA>
## 6          6   Radio    Ohio

ऊपर मैंने हार्ड-कोड में एक धारणा बनाई कि कुंजी स्तंभ दोनों इनपुट तालिकाओं का पहला स्तंभ है। मेरा तर्क है कि, सामान्य रूप से, यह एक अनुचित धारणा नहीं है, क्योंकि, यदि आपके पास एक डेटा है। कुंजी कॉलम के साथ, यह तब अजीब होगा जब इसे डेटा के पहले कॉलम के रूप में सेट नहीं किया गया हो। आरंभ। और आप हमेशा इसे बनाने के लिए कॉलम को फिर से चला सकते हैं। इस धारणा का एक लाभप्रद परिणाम यह है कि कुंजी कॉलम का नाम हार्ड-कोडेड नहीं है, हालांकि मुझे लगता है कि यह सिर्फ एक धारणा को दूसरे के साथ बदल रहा है। खतना पूर्णांक अनुक्रमण, साथ ही गति का एक और लाभ है। नीचे दिए गए मानदंड में मैं कार्यान्वयन कार्यान्वयन से मेल खाने के लिए स्ट्रिंग नाम अनुक्रमण का उपयोग करने के लिए कार्यान्वयन को बदल दूंगा।

मुझे लगता है कि यह एक विशेष रूप से उपयुक्त समाधान है यदि आपके पास कई टेबल हैं जिन्हें आप एक बड़ी तालिका के खिलाफ छोड़ना चाहते हैं। बार-बार प्रत्येक मर्ज के लिए पूरी तालिका का पुनर्निर्माण अनावश्यक और अक्षम होगा।

दूसरी ओर, यदि आपको जोइन की आवश्यकता है, जो भी कारण के लिए इस ऑपरेशन के माध्यम से अनलॉक्ड रहें, तो इस समाधान का उपयोग नहीं किया जा सकता है, क्योंकि यह सीधे जॉयनी को संशोधित करता है। हालांकि उस स्थिति में आप केवल एक प्रतिलिपि बना सकते हैं और कॉपी पर इन-प्लेस असाइनमेंट (ओं) को निष्पादित कर सकते हैं।


एक साइड नोट के रूप में, मैंने संक्षेप में मल्टीकोलूम कुंजी के लिए संभावित मिलान समाधानों पर ध्यान दिया। दुर्भाग्य से, मेरे द्वारा पाया गया एकमात्र मिलान समाधान था:

  • अयोग्य संघटन। जैसे match(interaction(df1$a,df1$b),interaction(df2$a,df2$b)), या उसी विचार के साथ paste()
  • अकुशल कार्टेशियन संयुग्मन, जैसे outer(df1$a,df2$a,`==`) & outer(df1$b,df2$b,`==`)
  • बेस आर merge()और समतुल्य पैकेज-आधारित मर्ज फ़ंक्शंस, जो हमेशा मर्ज किए गए परिणाम को वापस करने के लिए एक नई तालिका आवंटित करते हैं, और इस तरह इन-प्लेस असाइनमेंट-आधारित समाधान के लिए उपयुक्त नहीं हैं।

उदाहरण के लिए, देखने के विभिन्न डेटा फ्रेम पर एकाधिक स्तंभों मिलान और परिणाम के रूप में अन्य स्तंभ हो रही , दो अन्य कॉलम के साथ दो कॉलम से मेल खाते हैं , एकाधिक स्तंभों पर मिलान , और इस सवाल का, जहां मैं मूल रूप से यथा-स्थान समाधान के साथ आया था की शिकार, कम्बाइन R में विभिन्न संख्याओं वाली दो डेटा फ़्रेम


बेंचमार्किंग

मैंने यह देखने के लिए अपनी स्वयं की बेंचमार्किंग करने का फैसला किया कि इस प्रश्न में पेश किए गए अन्य समाधानों की तुलना में इन-प्लेस असाइनमेंट दृष्टिकोण कैसे है।

परीक्षण कोड:

library(microbenchmark);
library(data.table);
library(sqldf);
library(plyr);
library(dplyr);

solSpecs <- list(
    merge=list(testFuncs=list(
        inner=function(df1,df2,key) merge(df1,df2,key),
        left =function(df1,df2,key) merge(df1,df2,key,all.x=T),
        right=function(df1,df2,key) merge(df1,df2,key,all.y=T),
        full =function(df1,df2,key) merge(df1,df2,key,all=T)
    )),
    data.table.unkeyed=list(argSpec='data.table.unkeyed',testFuncs=list(
        inner=function(dt1,dt2,key) dt1[dt2,on=key,nomatch=0L,allow.cartesian=T],
        left =function(dt1,dt2,key) dt2[dt1,on=key,allow.cartesian=T],
        right=function(dt1,dt2,key) dt1[dt2,on=key,allow.cartesian=T],
        full =function(dt1,dt2,key) merge(dt1,dt2,key,all=T,allow.cartesian=T) ## calls merge.data.table()
    )),
    data.table.keyed=list(argSpec='data.table.keyed',testFuncs=list(
        inner=function(dt1,dt2) dt1[dt2,nomatch=0L,allow.cartesian=T],
        left =function(dt1,dt2) dt2[dt1,allow.cartesian=T],
        right=function(dt1,dt2) dt1[dt2,allow.cartesian=T],
        full =function(dt1,dt2) merge(dt1,dt2,all=T,allow.cartesian=T) ## calls merge.data.table()
    )),
    sqldf.unindexed=list(testFuncs=list( ## note: must pass connection=NULL to avoid running against the live DB connection, which would result in collisions with the residual tables from the last query upload
        inner=function(df1,df2,key) sqldf(paste0('select * from df1 inner join df2 using(',paste(collapse=',',key),')'),connection=NULL),
        left =function(df1,df2,key) sqldf(paste0('select * from df1 left join df2 using(',paste(collapse=',',key),')'),connection=NULL),
        right=function(df1,df2,key) sqldf(paste0('select * from df2 left join df1 using(',paste(collapse=',',key),')'),connection=NULL) ## can't do right join proper, not yet supported; inverted left join is equivalent
        ##full =function(df1,df2,key) sqldf(paste0('select * from df1 full join df2 using(',paste(collapse=',',key),')'),connection=NULL) ## can't do full join proper, not yet supported; possible to hack it with a union of left joins, but too unreasonable to include in testing
    )),
    sqldf.indexed=list(testFuncs=list( ## important: requires an active DB connection with preindexed main.df1 and main.df2 ready to go; arguments are actually ignored
        inner=function(df1,df2,key) sqldf(paste0('select * from main.df1 inner join main.df2 using(',paste(collapse=',',key),')')),
        left =function(df1,df2,key) sqldf(paste0('select * from main.df1 left join main.df2 using(',paste(collapse=',',key),')')),
        right=function(df1,df2,key) sqldf(paste0('select * from main.df2 left join main.df1 using(',paste(collapse=',',key),')')) ## can't do right join proper, not yet supported; inverted left join is equivalent
        ##full =function(df1,df2,key) sqldf(paste0('select * from main.df1 full join main.df2 using(',paste(collapse=',',key),')')) ## can't do full join proper, not yet supported; possible to hack it with a union of left joins, but too unreasonable to include in testing
    )),
    plyr=list(testFuncs=list(
        inner=function(df1,df2,key) join(df1,df2,key,'inner'),
        left =function(df1,df2,key) join(df1,df2,key,'left'),
        right=function(df1,df2,key) join(df1,df2,key,'right'),
        full =function(df1,df2,key) join(df1,df2,key,'full')
    )),
    dplyr=list(testFuncs=list(
        inner=function(df1,df2,key) inner_join(df1,df2,key),
        left =function(df1,df2,key) left_join(df1,df2,key),
        right=function(df1,df2,key) right_join(df1,df2,key),
        full =function(df1,df2,key) full_join(df1,df2,key)
    )),
    in.place=list(testFuncs=list(
        left =function(df1,df2,key) { cns <- setdiff(names(df2),key); df1[cns] <- df2[match(df1[,key],df2[,key]),cns]; df1; },
        right=function(df1,df2,key) { cns <- setdiff(names(df1),key); df2[cns] <- df1[match(df2[,key],df1[,key]),cns]; df2; }
    ))
);

getSolTypes <- function() names(solSpecs);
getJoinTypes <- function() unique(unlist(lapply(solSpecs,function(x) names(x$testFuncs))));
getArgSpec <- function(argSpecs,key=NULL) if (is.null(key)) argSpecs$default else argSpecs[[key]];

initSqldf <- function() {
    sqldf(); ## creates sqlite connection on first run, cleans up and closes existing connection otherwise
    if (exists('sqldfInitFlag',envir=globalenv(),inherits=F) && sqldfInitFlag) { ## false only on first run
        sqldf(); ## creates a new connection
    } else {
        assign('sqldfInitFlag',T,envir=globalenv()); ## set to true for the one and only time
    }; ## end if
    invisible();
}; ## end initSqldf()

setUpBenchmarkCall <- function(argSpecs,joinType,solTypes=getSolTypes(),env=parent.frame()) {
    ## builds and returns a list of expressions suitable for passing to the list argument of microbenchmark(), and assigns variables to resolve symbol references in those expressions
    callExpressions <- list();
    nms <- character();
    for (solType in solTypes) {
        testFunc <- solSpecs[[solType]]$testFuncs[[joinType]];
        if (is.null(testFunc)) next; ## this join type is not defined for this solution type
        testFuncName <- paste0('tf.',solType);
        assign(testFuncName,testFunc,envir=env);
        argSpecKey <- solSpecs[[solType]]$argSpec;
        argSpec <- getArgSpec(argSpecs,argSpecKey);
        argList <- setNames(nm=names(argSpec$args),vector('list',length(argSpec$args)));
        for (i in seq_along(argSpec$args)) {
            argName <- paste0('tfa.',argSpecKey,i);
            assign(argName,argSpec$args[[i]],envir=env);
            argList[[i]] <- if (i%in%argSpec$copySpec) call('copy',as.symbol(argName)) else as.symbol(argName);
        }; ## end for
        callExpressions[[length(callExpressions)+1L]] <- do.call(call,c(list(testFuncName),argList),quote=T);
        nms[length(nms)+1L] <- solType;
    }; ## end for
    names(callExpressions) <- nms;
    callExpressions;
}; ## end setUpBenchmarkCall()

harmonize <- function(res) {
    res <- as.data.frame(res); ## coerce to data.frame
    for (ci in which(sapply(res,is.factor))) res[[ci]] <- as.character(res[[ci]]); ## coerce factor columns to character
    for (ci in which(sapply(res,is.logical))) res[[ci]] <- as.integer(res[[ci]]); ## coerce logical columns to integer (works around sqldf quirk of munging logicals to integers)
    ##for (ci in which(sapply(res,inherits,'POSIXct'))) res[[ci]] <- as.double(res[[ci]]); ## coerce POSIXct columns to double (works around sqldf quirk of losing POSIXct class) ----- POSIXct doesn't work at all in sqldf.indexed
    res <- res[order(names(res))]; ## order columns
    res <- res[do.call(order,res),]; ## order rows
    res;
}; ## end harmonize()

checkIdentical <- function(argSpecs,solTypes=getSolTypes()) {
    for (joinType in getJoinTypes()) {
        callExpressions <- setUpBenchmarkCall(argSpecs,joinType,solTypes);
        if (length(callExpressions)<2L) next;
        ex <- harmonize(eval(callExpressions[[1L]]));
        for (i in seq(2L,len=length(callExpressions)-1L)) {
            y <- harmonize(eval(callExpressions[[i]]));
            if (!isTRUE(all.equal(ex,y,check.attributes=F))) {
                ex <<- ex;
                y <<- y;
                solType <- names(callExpressions)[i];
                stop(paste0('non-identical: ',solType,' ',joinType,'.'));
            }; ## end if
        }; ## end for
    }; ## end for
    invisible();
}; ## end checkIdentical()

testJoinType <- function(argSpecs,joinType,solTypes=getSolTypes(),metric=NULL,times=100L) {
    callExpressions <- setUpBenchmarkCall(argSpecs,joinType,solTypes);
    bm <- microbenchmark(list=callExpressions,times=times);
    if (is.null(metric)) return(bm);
    bm <- summary(bm);
    res <- setNames(nm=names(callExpressions),bm[[metric]]);
    attr(res,'unit') <- attr(bm,'unit');
    res;
}; ## end testJoinType()

testAllJoinTypes <- function(argSpecs,solTypes=getSolTypes(),metric=NULL,times=100L) {
    joinTypes <- getJoinTypes();
    resList <- setNames(nm=joinTypes,lapply(joinTypes,function(joinType) testJoinType(argSpecs,joinType,solTypes,metric,times)));
    if (is.null(metric)) return(resList);
    units <- unname(unlist(lapply(resList,attr,'unit')));
    res <- do.call(data.frame,c(list(join=joinTypes),setNames(nm=solTypes,rep(list(rep(NA_real_,length(joinTypes))),length(solTypes))),list(unit=units,stringsAsFactors=F)));
    for (i in seq_along(resList)) res[i,match(names(resList[[i]]),names(res))] <- resList[[i]];
    res;
}; ## end testAllJoinTypes()

testGrid <- function(makeArgSpecsFunc,sizes,overlaps,solTypes=getSolTypes(),joinTypes=getJoinTypes(),metric='median',times=100L) {

    res <- expand.grid(size=sizes,overlap=overlaps,joinType=joinTypes,stringsAsFactors=F);
    res[solTypes] <- NA_real_;
    res$unit <- NA_character_;
    for (ri in seq_len(nrow(res))) {

        size <- res$size[ri];
        overlap <- res$overlap[ri];
        joinType <- res$joinType[ri];

        argSpecs <- makeArgSpecsFunc(size,overlap);

        checkIdentical(argSpecs,solTypes);

        cur <- testJoinType(argSpecs,joinType,solTypes,metric,times);
        res[ri,match(names(cur),names(res))] <- cur;
        res$unit[ri] <- attr(cur,'unit');

    }; ## end for

    res;

}; ## end testGrid()

यहाँ ओपी पर आधारित उदाहरण का एक मानदंड है जो मैंने पहले दिखाया था:

## OP's example, supplemented with a non-matching row in df2
argSpecs <- list(
    default=list(copySpec=1:2,args=list(
        df1 <- data.frame(CustomerId=1:6,Product=c(rep('Toaster',3L),rep('Radio',3L))),
        df2 <- data.frame(CustomerId=c(2L,4L,6L,7L),State=c(rep('Alabama',2L),'Ohio','Texas')),
        'CustomerId'
    )),
    data.table.unkeyed=list(copySpec=1:2,args=list(
        as.data.table(df1),
        as.data.table(df2),
        'CustomerId'
    )),
    data.table.keyed=list(copySpec=1:2,args=list(
        setkey(as.data.table(df1),CustomerId),
        setkey(as.data.table(df2),CustomerId)
    ))
);
## prepare sqldf
initSqldf();
sqldf('create index df1_key on df1(CustomerId);'); ## upload and create an sqlite index on df1
sqldf('create index df2_key on df2(CustomerId);'); ## upload and create an sqlite index on df2

checkIdentical(argSpecs);

testAllJoinTypes(argSpecs,metric='median');
##    join    merge data.table.unkeyed data.table.keyed sqldf.unindexed sqldf.indexed      plyr    dplyr in.place         unit
## 1 inner  644.259           861.9345          923.516        9157.752      1580.390  959.2250 270.9190       NA microseconds
## 2  left  713.539           888.0205          910.045        8820.334      1529.714  968.4195 270.9185 224.3045 microseconds
## 3 right 1221.804           909.1900          923.944        8930.668      1533.135 1063.7860 269.8495 218.1035 microseconds
## 4  full 1302.203          3107.5380         3184.729              NA            NA 1593.6475 270.7055       NA microseconds

यहां मैं यादृच्छिक इनपुट डेटा पर बेंचमार्क करता हूं, दो इनपुट तालिकाओं के बीच अलग-अलग तराजू और कुंजी ओवरलैप के विभिन्न पैटर्न की कोशिश करता हूं। यह मानदंड अभी भी एकल-स्तंभ पूर्णांक कुंजी के मामले में प्रतिबंधित है। साथ ही, यह सुनिश्चित करने के लिए कि इन-प्लेस सॉल्यूशन एक ही टेबलों के लेफ्ट और राइट जॉइन दोनों के लिए काम करेगा, सभी रैंडम टेस्ट डेटा 0..1:0..1कार्डियकिटी का उपयोग करता है । इसे पहले data.frame के मुख्य कॉलम को बदलने के बिना नमूना द्वारा कार्यान्वित किया जाता है जब दूसरे data.frame के प्रमुख कॉलम को उत्पन्न करता है।

makeArgSpecs.singleIntegerKey.optionalOneToOne <- function(size,overlap) {

    com <- as.integer(size*overlap);

    argSpecs <- list(
        default=list(copySpec=1:2,args=list(
            df1 <- data.frame(id=sample(size),y1=rnorm(size),y2=rnorm(size)),
            df2 <- data.frame(id=sample(c(if (com>0L) sample(df1$id,com) else integer(),seq(size+1L,len=size-com))),y3=rnorm(size),y4=rnorm(size)),
            'id'
        )),
        data.table.unkeyed=list(copySpec=1:2,args=list(
            as.data.table(df1),
            as.data.table(df2),
            'id'
        )),
        data.table.keyed=list(copySpec=1:2,args=list(
            setkey(as.data.table(df1),id),
            setkey(as.data.table(df2),id)
        ))
    );
    ## prepare sqldf
    initSqldf();
    sqldf('create index df1_key on df1(id);'); ## upload and create an sqlite index on df1
    sqldf('create index df2_key on df2(id);'); ## upload and create an sqlite index on df2

    argSpecs;

}; ## end makeArgSpecs.singleIntegerKey.optionalOneToOne()

## cross of various input sizes and key overlaps
sizes <- c(1e1L,1e3L,1e6L);
overlaps <- c(0.99,0.5,0.01);
system.time({ res <- testGrid(makeArgSpecs.singleIntegerKey.optionalOneToOne,sizes,overlaps); });
##     user   system  elapsed
## 22024.65 12308.63 34493.19

उपरोक्त परिणामों के लॉग-लॉग प्लॉट बनाने के लिए मैंने कुछ कोड लिखे। मैंने प्रत्येक ओवरलैप प्रतिशत के लिए एक अलग प्लॉट तैयार किया। यह थोड़ा सा अव्यवस्थित है, लेकिन मुझे सभी समाधान प्रकारों को जोड़ना पसंद है और एक ही भूखंड में प्रतिनिधित्व प्रकार शामिल हैं।

मैं प्रत्येक समाधान के लिए एक चिकनी वक्र दिखाने के लिए स्प्लिन इंटरपोलेशन का उपयोग करता था / प्रकार संयोजन, व्यक्तिगत pch प्रतीकों के साथ खींचा। ज्वाइन प्रकार को pch सिंबल द्वारा कैप्चर किया जाता है, बाएँ और दाएँ के लिए आंतरिक, बाएँ और दाएँ कोण कोष्ठक के लिए डॉट का उपयोग करके, और पूर्ण रूप से हीरे के साथ। समाधान प्रकार को रंग द्वारा कब्जा कर लिया जाता है जैसा कि किंवदंती में दिखाया गया है।

plotRes <- function(res,titleFunc,useFloor=F) {
    solTypes <- setdiff(names(res),c('size','overlap','joinType','unit')); ## derive from res
    normMult <- c(microseconds=1e-3,milliseconds=1); ## normalize to milliseconds
    joinTypes <- getJoinTypes();
    cols <- c(merge='purple',data.table.unkeyed='blue',data.table.keyed='#00DDDD',sqldf.unindexed='brown',sqldf.indexed='orange',plyr='red',dplyr='#00BB00',in.place='magenta');
    pchs <- list(inner=20L,left='<',right='>',full=23L);
    cexs <- c(inner=0.7,left=1,right=1,full=0.7);
    NP <- 60L;
    ord <- order(decreasing=T,colMeans(res[res$size==max(res$size),solTypes],na.rm=T));
    ymajors <- data.frame(y=c(1,1e3),label=c('1ms','1s'),stringsAsFactors=F);
    for (overlap in unique(res$overlap)) {
        x1 <- res[res$overlap==overlap,];
        x1[solTypes] <- x1[solTypes]*normMult[x1$unit]; x1$unit <- NULL;
        xlim <- c(1e1,max(x1$size));
        xticks <- 10^seq(log10(xlim[1L]),log10(xlim[2L]));
        ylim <- c(1e-1,10^((if (useFloor) floor else ceiling)(log10(max(x1[solTypes],na.rm=T))))); ## use floor() to zoom in a little more, only sqldf.unindexed will break above, but xpd=NA will keep it visible
        yticks <- 10^seq(log10(ylim[1L]),log10(ylim[2L]));
        yticks.minor <- rep(yticks[-length(yticks)],each=9L)*1:9;
        plot(NA,xlim=xlim,ylim=ylim,xaxs='i',yaxs='i',axes=F,xlab='size (rows)',ylab='time (ms)',log='xy');
        abline(v=xticks,col='lightgrey');
        abline(h=yticks.minor,col='lightgrey',lty=3L);
        abline(h=yticks,col='lightgrey');
        axis(1L,xticks,parse(text=sprintf('10^%d',as.integer(log10(xticks)))));
        axis(2L,yticks,parse(text=sprintf('10^%d',as.integer(log10(yticks)))),las=1L);
        axis(4L,ymajors$y,ymajors$label,las=1L,tick=F,cex.axis=0.7,hadj=0.5);
        for (joinType in rev(joinTypes)) { ## reverse to draw full first, since it's larger and would be more obtrusive if drawn last
            x2 <- x1[x1$joinType==joinType,];
            for (solType in solTypes) {
                if (any(!is.na(x2[[solType]]))) {
                    xy <- spline(x2$size,x2[[solType]],xout=10^(seq(log10(x2$size[1L]),log10(x2$size[nrow(x2)]),len=NP)));
                    points(xy$x,xy$y,pch=pchs[[joinType]],col=cols[solType],cex=cexs[joinType],xpd=NA);
                }; ## end if
            }; ## end for
        }; ## end for
        ## custom legend
        ## due to logarithmic skew, must do all distance calcs in inches, and convert to user coords afterward
        ## the bottom-left corner of the legend will be defined in normalized figure coords, although we can convert to inches immediately
        leg.cex <- 0.7;
        leg.x.in <- grconvertX(0.275,'nfc','in');
        leg.y.in <- grconvertY(0.6,'nfc','in');
        leg.x.user <- grconvertX(leg.x.in,'in');
        leg.y.user <- grconvertY(leg.y.in,'in');
        leg.outpad.w.in <- 0.1;
        leg.outpad.h.in <- 0.1;
        leg.midpad.w.in <- 0.1;
        leg.midpad.h.in <- 0.1;
        leg.sol.w.in <- max(strwidth(solTypes,'in',leg.cex));
        leg.sol.h.in <- max(strheight(solTypes,'in',leg.cex))*1.5; ## multiplication factor for greater line height
        leg.join.w.in <- max(strheight(joinTypes,'in',leg.cex))*1.5; ## ditto
        leg.join.h.in <- max(strwidth(joinTypes,'in',leg.cex));
        leg.main.w.in <- leg.join.w.in*length(joinTypes);
        leg.main.h.in <- leg.sol.h.in*length(solTypes);
        leg.x2.user <- grconvertX(leg.x.in+leg.outpad.w.in*2+leg.main.w.in+leg.midpad.w.in+leg.sol.w.in,'in');
        leg.y2.user <- grconvertY(leg.y.in+leg.outpad.h.in*2+leg.main.h.in+leg.midpad.h.in+leg.join.h.in,'in');
        leg.cols.x.user <- grconvertX(leg.x.in+leg.outpad.w.in+leg.join.w.in*(0.5+seq(0L,length(joinTypes)-1L)),'in');
        leg.lines.y.user <- grconvertY(leg.y.in+leg.outpad.h.in+leg.main.h.in-leg.sol.h.in*(0.5+seq(0L,length(solTypes)-1L)),'in');
        leg.sol.x.user <- grconvertX(leg.x.in+leg.outpad.w.in+leg.main.w.in+leg.midpad.w.in,'in');
        leg.join.y.user <- grconvertY(leg.y.in+leg.outpad.h.in+leg.main.h.in+leg.midpad.h.in,'in');
        rect(leg.x.user,leg.y.user,leg.x2.user,leg.y2.user,col='white');
        text(leg.sol.x.user,leg.lines.y.user,solTypes[ord],cex=leg.cex,pos=4L,offset=0);
        text(leg.cols.x.user,leg.join.y.user,joinTypes,cex=leg.cex,pos=4L,offset=0,srt=90); ## srt rotation applies *after* pos/offset positioning
        for (i in seq_along(joinTypes)) {
            joinType <- joinTypes[i];
            points(rep(leg.cols.x.user[i],length(solTypes)),ifelse(colSums(!is.na(x1[x1$joinType==joinType,solTypes[ord]]))==0L,NA,leg.lines.y.user),pch=pchs[[joinType]],col=cols[solTypes[ord]]);
        }; ## end for
        title(titleFunc(overlap));
        readline(sprintf('overlap %.02f',overlap));
    }; ## end for
}; ## end plotRes()

titleFunc <- function(overlap) sprintf('R merge solutions: single-column integer key, 0..1:0..1 cardinality, %d%% overlap',as.integer(overlap*100));
plotRes(res,titleFunc,T);

आर-मर्ज-बेंचमार्क-एकल-स्तंभ-पूर्णांक-की-वैकल्पिक-एक-से-एक-99

आर-मर्ज-बेंचमार्क-एकल-स्तंभ-पूर्णांक-की-वैकल्पिक-एक-से-एक-50

आर-मर्ज-बेंचमार्क-एकल-स्तंभ-पूर्णांक-की-वैकल्पिक-एक-से-एक -1


यहां एक दूसरे बड़े पैमाने पर बेंचमार्क है जो संख्या और प्रमुख स्तंभों के प्रकार के साथ-साथ कार्डिनलिटी के संबंध में अधिक भारी-शुल्क है। इस बेंचमार्क के लिए मैं तीन प्रमुख स्तंभों का उपयोग करता हूं: एक चरित्र, एक पूर्णांक, और एक तार्किक, जिसमें कार्डिनैलिटी (यानी 0..*:0..*) पर कोई प्रतिबंध नहीं है । (सामान्य तौर पर यह महत्वपूर्ण नहीं है कि फ्लोटिंग-पॉइंट तुलना जटिलताओं के कारण डबल या जटिल मान वाले मुख्य कॉलमों को परिभाषित करें, और मूल रूप से कोई भी कभी भी महत्वपूर्ण प्रकार का उपयोग नहीं करता है, कुंजी कॉलम के लिए बहुत कम है, इसलिए मैंने उन प्रकारों को कुंजी में शामिल नहीं किया है कॉलम। इसके अलावा, जानकारी के लिए, मैंने शुरू में एक पॉसिस्टिक कुंजी कॉलम को शामिल करके चार प्रमुख स्तंभों का उपयोग करने की कोशिश की थी, लेकिन पॉसिक्ट प्रकार sqldf.indexedकिसी कारण से समाधान के साथ अच्छी तरह से नहीं खेला , संभवतः फ्लोटिंग-पॉइंट तुलना विसंगतियों के कारण, इसलिए मैंने इसे हटा दिया।)

makeArgSpecs.assortedKey.optionalManyToMany <- function(size,overlap,uniquePct=75) {

    ## number of unique keys in df1
    u1Size <- as.integer(size*uniquePct/100);

    ## (roughly) divide u1Size into bases, so we can use expand.grid() to produce the required number of unique key values with repetitions within individual key columns
    ## use ceiling() to ensure we cover u1Size; will truncate afterward
    u1SizePerKeyColumn <- as.integer(ceiling(u1Size^(1/3)));

    ## generate the unique key values for df1
    keys1 <- expand.grid(stringsAsFactors=F,
        idCharacter=replicate(u1SizePerKeyColumn,paste(collapse='',sample(letters,sample(4:12,1L),T))),
        idInteger=sample(u1SizePerKeyColumn),
        idLogical=sample(c(F,T),u1SizePerKeyColumn,T)
        ##idPOSIXct=as.POSIXct('2016-01-01 00:00:00','UTC')+sample(u1SizePerKeyColumn)
    )[seq_len(u1Size),];

    ## rbind some repetitions of the unique keys; this will prepare one side of the many-to-many relationship
    ## also scramble the order afterward
    keys1 <- rbind(keys1,keys1[sample(nrow(keys1),size-u1Size,T),])[sample(size),];

    ## common and unilateral key counts
    com <- as.integer(size*overlap);
    uni <- size-com;

    ## generate some unilateral keys for df2 by synthesizing outside of the idInteger range of df1
    keys2 <- data.frame(stringsAsFactors=F,
        idCharacter=replicate(uni,paste(collapse='',sample(letters,sample(4:12,1L),T))),
        idInteger=u1SizePerKeyColumn+sample(uni),
        idLogical=sample(c(F,T),uni,T)
        ##idPOSIXct=as.POSIXct('2016-01-01 00:00:00','UTC')+u1SizePerKeyColumn+sample(uni)
    );

    ## rbind random keys from df1; this will complete the many-to-many relationship
    ## also scramble the order afterward
    keys2 <- rbind(keys2,keys1[sample(nrow(keys1),com,T),])[sample(size),];

    ##keyNames <- c('idCharacter','idInteger','idLogical','idPOSIXct');
    keyNames <- c('idCharacter','idInteger','idLogical');
    ## note: was going to use raw and complex type for two of the non-key columns, but data.table doesn't seem to fully support them
    argSpecs <- list(
        default=list(copySpec=1:2,args=list(
            df1 <- cbind(stringsAsFactors=F,keys1,y1=sample(c(F,T),size,T),y2=sample(size),y3=rnorm(size),y4=replicate(size,paste(collapse='',sample(letters,sample(4:12,1L),T)))),
            df2 <- cbind(stringsAsFactors=F,keys2,y5=sample(c(F,T),size,T),y6=sample(size),y7=rnorm(size),y8=replicate(size,paste(collapse='',sample(letters,sample(4:12,1L),T)))),
            keyNames
        )),
        data.table.unkeyed=list(copySpec=1:2,args=list(
            as.data.table(df1),
            as.data.table(df2),
            keyNames
        )),
        data.table.keyed=list(copySpec=1:2,args=list(
            setkeyv(as.data.table(df1),keyNames),
            setkeyv(as.data.table(df2),keyNames)
        ))
    );
    ## prepare sqldf
    initSqldf();
    sqldf(paste0('create index df1_key on df1(',paste(collapse=',',keyNames),');')); ## upload and create an sqlite index on df1
    sqldf(paste0('create index df2_key on df2(',paste(collapse=',',keyNames),');')); ## upload and create an sqlite index on df2

    argSpecs;

}; ## end makeArgSpecs.assortedKey.optionalManyToMany()

sizes <- c(1e1L,1e3L,1e5L); ## 1e5L instead of 1e6L to respect more heavy-duty inputs
overlaps <- c(0.99,0.5,0.01);
solTypes <- setdiff(getSolTypes(),'in.place');
system.time({ res <- testGrid(makeArgSpecs.assortedKey.optionalManyToMany,sizes,overlaps,solTypes); });
##     user   system  elapsed
## 38895.50   784.19 39745.53

ऊपर दिए गए समान प्लॉटिंग कोड का उपयोग करके परिणामी प्लॉट:

titleFunc <- function(overlap) sprintf('R merge solutions: character/integer/logical key, 0..*:0..* cardinality, %d%% overlap',as.integer(overlap*100));
plotRes(res,titleFunc,F);

आर-मर्ज-बेंचमार्क-मिश्रित-की-वैकल्पिक-कई-से-अनेक-99

आर-मर्ज-बेंचमार्क-मिश्रित-की-वैकल्पिक-कई-से-अनेक-50

आर-मर्ज-बेंचमार्क-मिश्रित-की-वैकल्पिक-कई-से-अनेक -1


बहुत अच्छा विश्लेषण, लेकिन यह एक दया है जिसे आपने 10 ^ 1 से 10 ^ 6 तक के पैमाने पर सेट किया है, वे इतने छोटे सेट हैं कि गति अंतर लगभग अप्रासंगिक है। 10 ^ 6 से 10 ^ 8 देखना दिलचस्प होगा!
जंगोरकी

1
मुझे यह भी पता चला कि आप बेंचमार्क में क्लास की जबरदस्ती के समय को शामिल करते हैं जो इसे ऑपरेशन में शामिल होने के लिए अमान्य बनाता है।
जंगोरीकी

8
  1. mergeफ़ंक्शन का उपयोग करके हम बाएं टेबल या राइट टेबल के चर का चयन कर सकते हैं, उसी तरह जैसे हम सभी एसक्यूएल में चयनित स्टेटमेंट से परिचित हैं (उदाहरण: एक का चयन करें। * ... या से बी का चयन करें। .....)
  2. हमें अतिरिक्त कोड जोड़ना होगा जो कि नई ज्वाइन की गई टेबल से सब्मिट हो जाएगा।

    • एसक्यूएल: - select a.* from df1 a inner join df2 b on a.CustomerId=b.CustomerId

    • आर: - merge(df1, df2, by.x = "CustomerId", by.y = "CustomerId")[,names(df1)]

उसी तरह

  • एसक्यूएल: - select b.* from df1 a inner join df2 b on a.CustomerId=b.CustomerId

  • आर: - merge(df1, df2, by.x = "CustomerId", by.y = "CustomerId")[,names(df2)]


7

सभी स्तंभों पर आंतरिक रूप से शामिल होने के लिए, आप -columns को निर्दिष्ट किए बिना एक विकल्प के रूप में data.table -package से या dplyr- package fintersectसे भी उपयोग कर सकते हैं । यह उन पंक्तियों को देगा जो दो डेटाफ्रेम के बीच बराबर होती हैं:intersectmergeby

merge(df1, df2)
#   V1 V2
# 1  B  2
# 2  C  3
dplyr::intersect(df1, df2)
#   V1 V2
# 1  B  2
# 2  C  3
data.table::fintersect(setDT(df1), setDT(df2))
#    V1 V2
# 1:  B  2
# 2:  C  3

उदाहरण डेटा:

df1 <- data.frame(V1 = LETTERS[1:4], V2 = 1:4)
df2 <- data.frame(V1 = LETTERS[2:3], V2 = 2:3)

5

अद्यतन शामिल हों। एक अन्य महत्वपूर्ण एसक्यूएल-स्टाइल जॉइन एक " अपडेट जॉइन " है जहां एक टेबल में कॉलम दूसरे टेबल का उपयोग करके अपडेट किया जाता है (या बनाया जाता है)।

ओपी के उदाहरण तालिकाओं को संशोधित करना ...

sales = data.frame(
  CustomerId = c(1, 1, 1, 3, 4, 6), 
  Year = 2000:2005,
  Product = c(rep("Toaster", 3), rep("Radio", 3))
)
cust = data.frame(
  CustomerId = c(1, 1, 4, 6), 
  Year = c(2001L, 2002L, 2002L, 2002L),
  State = state.name[1:4]
)

sales
# CustomerId Year Product
#          1 2000 Toaster
#          1 2001 Toaster
#          1 2002 Toaster
#          3 2003   Radio
#          4 2004   Radio
#          6 2005   Radio

cust
# CustomerId Year    State
#          1 2001  Alabama
#          1 2002   Alaska
#          4 2002  Arizona
#          6 2002 Arkansas

मान लें कि हम वर्ष कॉलम को अनदेखा करते हुए, custखरीद तालिका से ग्राहक की स्थिति जोड़ना चाहते हैं sales। आधार R के साथ, हम मिलान पंक्तियों की पहचान कर सकते हैं और फिर मानों को कॉपी कर सकते हैं:

sales$State <- cust$State[ match(sales$CustomerId, cust$CustomerId) ]

# CustomerId Year Product    State
#          1 2000 Toaster  Alabama
#          1 2001 Toaster  Alabama
#          1 2002 Toaster  Alabama
#          3 2003   Radio     <NA>
#          4 2004   Radio  Arizona
#          6 2005   Radio Arkansas

# cleanup for the next example
sales$State <- NULL

जैसा कि यहां देखा जा सकता है, matchग्राहक तालिका से पहली मिलान पंक्ति का चयन करता है।


अद्यतन कई कॉलम के साथ जुड़ें।जब हम केवल एक ही कॉलम में शामिल हो रहे हैं और पहले मैच से संतुष्ट हैं, तो ऊपर का दृष्टिकोण अच्छी तरह से काम करता है। मान लीजिए कि हम बिक्री के वर्ष से मेल खाने के लिए ग्राहक तालिका में माप का वर्ष चाहते हैं।

@ Bgoldst के जवाब का उल्लेख के रूप में, matchके साथ interactionइस मामले के लिए एक विकल्प हो सकता है। अधिक स्पष्ट रूप से, कोई डेटा का उपयोग कर सकता है।

library(data.table)
setDT(sales); setDT(cust)

sales[, State := cust[sales, on=.(CustomerId, Year), x.State]]

#    CustomerId Year Product   State
# 1:          1 2000 Toaster    <NA>
# 2:          1 2001 Toaster Alabama
# 3:          1 2002 Toaster  Alaska
# 4:          3 2003   Radio    <NA>
# 5:          4 2004   Radio    <NA>
# 6:          6 2005   Radio    <NA>

# cleanup for next example
sales[, State := NULL]

रोलिंग अद्यतन शामिल हों। वैकल्पिक रूप से, हम उस ग्राहक को अंतिम अवस्था में ले जाना चाहते हैं जो इसमें पाया गया था:

sales[, State := cust[sales, on=.(CustomerId, Year), roll=TRUE, x.State]]

#    CustomerId Year Product    State
# 1:          1 2000 Toaster     <NA>
# 2:          1 2001 Toaster  Alabama
# 3:          1 2002 Toaster   Alaska
# 4:          3 2003   Radio     <NA>
# 5:          4 2004   Radio  Arizona
# 6:          6 2005   Radio Arkansas

ऊपर तीन उदाहरण एक नया स्तंभ बनाने / जोड़ने पर ध्यान केंद्रित करते हैं। किसी मौजूदा कॉलम को अपडेट / संशोधित करने के उदाहरण के लिए संबंधित R FAQ देखें ।

हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.