10-गुना क्रॉस सत्यापन करने के लिए सेट किए गए डेटा को कैसे विभाजित किया जाए

Question

अब मेरे पास एक Rडेटा फ़्रेम (प्रशिक्षण) है, क्या कोई मुझे बता सकता है कि 10-गुना क्रॉस सत्यापन करने के लिए इस डेटा को बेतरतीब ढंग से कैसे विभाजित किया जाए?

Comments

संतोषजनक सटीकता प्राप्त करने के लिए पूरी प्रक्रिया को 100 बार दोहराना सुनिश्चित करें।

— फ्रैंक हरेल

नमूना मामला और नियंत्रण नमूना अलग से सुनिश्चित करें और फिर उन्हें प्रत्येक ब्लॉक में मिलाएं।

— शिचेंग गुओ

यदि आप caret :: train का उपयोग करते हैं, तो आपको इस बारे में ध्यान रखने की आवश्यकता नहीं है। यह आंतरिक रूप से किया जाएगा, आप सिलवटों की मात्रा चुन सकते हैं। यदि आप इसे "हाथ से" करने में जोर देते हैं तो वर्ग के स्तरीकृत नमूने का उपयोग करें जैसा कि कैरट में बनाया गया है :: createFolds।

— मारबेल

मैंने इस धागे को बंद कर दिया है क्योंकि कई उत्तरों में से हर एक इसे सामान्य सांख्यिकीय ब्याज के बजाय केवल एक कोडिंग प्रश्न के रूप में मान रहा है।

— whuber

Answer 1

caret इसके लिए एक फ़ंक्शन है:

require(caret)
flds <- createFolds(y, k = 10, list = TRUE, returnTrain = FALSE)
names(flds)[1] <- "train"

फिर प्रत्येक तत्व fldsप्रत्येक डेटासेट के लिए अनुक्रमित सूची है। यदि आपका डेटासेट कहा जाता है dat, तो dat[flds$train,]आपको प्रशिक्षण सेट dat[ flds[[2]], ]मिलता है , आपको दूसरा गुना सेट मिलता है, आदि।

Answer 2

यहाँ कोई पैकेज का उपयोग कर 10 गुना प्रदर्शन करने के लिए एक सरल तरीका है:

#Randomly shuffle the data
yourData<-yourData[sample(nrow(yourData)),]

#Create 10 equally size folds
folds <- cut(seq(1,nrow(yourData)),breaks=10,labels=FALSE)

#Perform 10 fold cross validation
for(i in 1:10){
    #Segement your data by fold using the which() function 
    testIndexes <- which(folds==i,arr.ind=TRUE)
    testData <- yourData[testIndexes, ]
    trainData <- yourData[-testIndexes, ]
    #Use the test and train data partitions however you desire...
}

Comments

-1: कैरेट फ़ंक्शंस स्तरीकृत सैंपलिंग करते हैं जो आप नहीं कर रहे हैं। अगर किसी ने आपके लिए चीजों को सरल बना दिया है, तो आपको फिर से मजबूत करने की क्या बात है?

— मारबेल

क्या तुम मजाक कर रहे हो? उत्तर का पूरा उद्देश्य पूरे कैरेट पैकेज को स्थापित किए बिना 10-गुना प्रदर्शन करना है। एकमात्र अच्छा बिंदु यह है कि लोगों को यह समझना चाहिए कि उनका कोड वास्तव में क्या करता है। युवा टिड्डा, स्तरीकृत नमूनाकरण हमेशा सबसे अच्छा तरीका नहीं है। उदाहरण के लिए, यह अधिक डेटा वाले उपसमूहों को अधिक महत्व देता है जो हमेशा वांछनीय नहीं होता है। (Esp अगर आपको नहीं पता कि यह हो रहा है)। यह आपके डेटा के लिए सर्वोत्तम दृष्टिकोण का उपयोग करने के बारे में है। मेरे दोस्त को सावधानी से ट्रोल करें :)

— जेक ड्रू

@JakeDrew मुझे एहसास है कि यह अब एक पुरानी पोस्ट है, लेकिन क्या प्रत्येक पुनरावृत्ति के लिए VAR (p) मॉडल की औसत औसत त्रुटि प्राप्त करने के लिए परीक्षण और ट्रेन डेटा का उपयोग करने के बारे में कुछ मार्गदर्शन के लिए पूछना संभव होगा?

— १

: यदि आप पर एक नज़र था rforge.net/doc/packages/hydroGOF/mae.html और r-bloggers.com/calculate-rmse-and-mae-in-r-and-sas

— जेक ड्रयू

@JakeDrew imho दोनों जवाबों में एक से अधिक का मूल्य है 1. एक पैकेज के साथ, दूसरा कोड के साथ ...

— natbusa

Answer 3

शायद सबसे अच्छा तरीका नहीं है, लेकिन यहाँ यह करने का एक तरीका है। मुझे पूरा यकीन है कि जब मैंने यह कोड लिखा था तो मैंने यहाँ से एक और उत्तर के लिए एक ट्रिक उधार ली थी, लेकिन मैं इसे लिंक नहीं कर पाया।

# Generate some test data
x <- runif(100)*10 #Random values between 0 and 10
y <- x+rnorm(100)*.1 #y~x+error
dataset <- data.frame(x,y) #Create data frame
plot(dataset$x,dataset$y) #Plot the data

#install.packages("cvTools")
library(cvTools) #run the above line if you don't have this library

k <- 10 #the number of folds

folds <- cvFolds(NROW(dataset), K=k)
dataset$holdoutpred <- rep(0,nrow(dataset))

for(i in 1:k){
  train <- dataset[folds$subsets[folds$which != i], ] #Set the training set
  validation <- dataset[folds$subsets[folds$which == i], ] #Set the validation set

  newlm <- lm(y~x,data=train) #Get your new linear model (just fit on the train data)
  newpred <- predict(newlm,newdata=validation) #Get the predicitons for the validation set (from the model just fit on the train data)

  dataset[folds$subsets[folds$which == i], ]$holdoutpred <- newpred #Put the hold out prediction in the data set for later use
}

dataset$holdoutpred #do whatever you want with these predictions

Answer 4

कृपया मेरे द्वारा उपयोग किए गए कुछ अन्य कोड के नीचे खोजें (उधार लिया गया और दूसरे स्रोत से अनुकूलित)। इसे सीधे एक स्क्रिप्ट से कॉपी किया जाता है जिसे मैंने सिर्फ खुद का इस्तेमाल किया है, जो रुट रूटीन में छोड़ दिया है। भाग शायद सबसे अधिक ब्याज की परतों के निर्माण पर लाइनें हैं। वैकल्पिक रूप से - आप बूटस्ट्रैप पैकेज से क्रॉसवल फ़ंक्शन का उपयोग कर सकते हैं।

#define error matrix
err <- matrix(NA,nrow=1,ncol=10)
errcv=err

#creation of folds
for(c in 1:10){

n=nrow(df);K=10; sizeblock= n%/%K;alea=runif(n);rang=rank(alea);bloc=(rang-1)%/%sizeblock+1;bloc[bloc==K+1]=K;bloc=factor(bloc); bloc=as.factor(bloc);print(summary(bloc))

for(k in 1:10){

#rpart
fit=rpart(type~., data=df[bloc!=k,],xval=0) ; (predict(fit,df[bloc==k,]))
answers=(predict(fit,df[bloc==k,],type="class")==resp[bloc==k])
err[1,k]=1-(sum(answers)/length(answers))

}

err
errcv[,c]=rowMeans(err, na.rm = FALSE, dims = 1)

}
errcv

Answer 5

# Evaluate models uses k-fold cross-validation
install.packages("DAAG")
library("DAAG")

cv.lm(data=dat, form.lm=mod1, m= 10, plotit = F)

कोड की एक पंक्ति में आपके लिए सब कुछ!

?cv.lm for information on input and output

Answer 6

क्योंकि इस सूची में मेरा दृष्टिकोण नहीं था, मैंने सोचा कि मैं उन लोगों के लिए एक और विकल्प साझा कर सकता हूं, जो त्वरित क्रॉस सत्यापन के लिए पैकेज स्थापित करने का मन नहीं करते हैं

# get the data from somewhere and specify number of folds
data <- read.csv('my_data.csv')
nrFolds <- 10

# generate array containing fold-number for each sample (row)
folds <- rep_len(1:nrFolds, nrow(data))

# actual cross validation
for(k in 1:nrFolds) {
    # actual split of the data
    fold <- which(folds == k)
    data.train <- data[-fold,]
    data.test <- data[fold,]

    # train and test your model with data.train and data.test
}

ध्यान दें कि उपरोक्त कोड मानता है कि डेटा पहले से ही शिल्ड है। अगर ऐसा नहीं होता, तो आप कुछ जोड़ने पर विचार कर सकते हैं

folds <- sample(folds, nrow(data))