आर। भाग 1 में सांख्यिकीय परीक्षण: बाइनरी वर्गीकरण

शुभ दिन। मैं आर में आंकड़ों के साथ काम करने के बारे में अपने ज्ञान को साझा करना चाहता हूं।
हममें से कई लोगों को काम के दौरान और रोजमर्रा की जिंदगी में विभिन्न आंकड़ों से निपटना पड़ता है। उन्हें गुणात्मक और सही तरीके से संसाधित करना और विश्लेषण करना इतना मुश्किल नहीं है। लेखों की इस श्रृंखला में मैं कुछ सांख्यिकीय परीक्षणों के अनुप्रयोग को दिखाऊंगा।

में रुचि रखते हैं? बिल्ली के लिए आपका स्वागत है।

भाग 2: गुणवत्ता डेटा परीक्षण
भाग 3: मात्रात्मक डेटा टेस्ट

मैं पहले से माफी मांगना चाहता हूं कि मैं अक्सर अंग्रेजी शब्दों का उपयोग करता हूं, साथ ही साथ उनके संभावित गलत अनुवाद के लिए भी।

बाइनरी वर्गीकरण, गुणवत्ता डेटा

पहला लेख बाइनरी वर्गीकरण के रूप में इस तरह के एक दिलचस्प परीक्षण के लिए समर्पित है। यह परीक्षण है, जिसमें किसी भी गुणवत्ता के लिए वस्तुओं की जांच करना शामिल है। उदाहरण के लिए, नैदानिक ​​परीक्षण (सभी ने शायद मंटौक्स किया था) या रडार में संकेतों का पता लगाना।

हम उदाहरण के द्वारा विश्लेषण करेंगे। सभी नमूना फ़ाइलों को लेख के अंत में डाउनलोड किया जा सकता है। कल्पना कीजिए कि आप एक एल्गोरिथ्म के साथ आए थे जो एक तस्वीर में एक व्यक्ति की उपस्थिति निर्धारित करता है। ऐसा लगता है कि सब कुछ काम करता है, आप खुश थे, लेकिन जल्दी। आखिरकार, आपको अपने एल्गोरिथ्म की गुणवत्ता का मूल्यांकन करने की आवश्यकता है। यहां हमें अपने परीक्षण का उपयोग करने की आवश्यकता है। अब हम परीक्षण के लिए आवश्यक नमूना आकार के बारे में आश्चर्य नहीं करेंगे। मान लें कि आपने 30 फ़ोटो ली हैं, व्यक्तिगत रूप से एक्सेल फ़ाइल में दर्ज की गई हैं कि क्या उन पर कोई व्यक्ति है या नहीं, और फिर अपने एल्गोरिथ्म के माध्यम से चला गया। परिणामस्वरूप, हमें निम्न तालिका मिली:



हम इसे csv में तुरंत सहेजते हैं, ताकि xls पढ़ने में परेशान न हों (यह R में संभव है, लेकिन बॉक्स से बाहर नहीं)।

अब थोड़ा सिद्धांत। परीक्षण के परिणामों के आधार पर, निम्न तालिका संकलित की गई है।

महत्वपूर्ण पैरामीटर

एक प्राथमिकता संभावना:
संवेदनशीलता (संवेदनशीलता)। पी (टी + | एच +)। एक व्यक्ति की खोज की संभावना।
से = १४/१६
अन्य परीक्षणों में विशिष्टता को अक्सर पावर कहा जाता है। P (T- | H-)। संभावना है कि किसी व्यक्ति की अनुपस्थिति में, परीक्षा परिणाम नकारात्मक है।
Sp = 10/14

संभावना अनुपात (Likelihood भागफल)। परीक्षण का मूल्यांकन करने के लिए एक महत्वपूर्ण विशेषता। 2 मूल्यों से मिलकर बनता है।



साहित्य में, एक परीक्षण अच्छा माना जाता है यदि LR + और LR- 3 से अधिक हो (चिकित्सा परीक्षणों पर लागू होता है)।

एक बाद की संभावना: सकारात्मक और नकारात्मक भविष्य कहनेवाला मूल्य। परीक्षण परिणाम (सकारात्मक या नकारात्मक) की संभावना सही है।
पीवी + = 14/18
पीवी- = 10/12

पहली तरह की त्रुटि (1 - Se) और दूसरी तरह (1 - Sp) की त्रुटि के रूप में भी ऐसी अवधारणाएं हैं। संवेदनशीलता और विशिष्टता के समकक्ष अनिवार्य रूप से।

अब में आर

आरंभ करने के लिए, डेटा डाउनलोड करें।

tab<-read.csv(file="data1.csv", header=TRUE, sep=",", dec=".") attach(tab) Test <- factor(Test, levels=c("0","1"), labels=c("T-","T+"), ordered=T) Human <-factor(Human, levels=c("0","1"), labels=c("H-","H+"), ordered=T) 

अंतिम दो पंक्तियों में, हमने 0 और 1 के बजाय लेबल असाइन किए हैं। ऐसा करना आवश्यक है, क्योंकि अन्यथा R हमारे डेटा के साथ संख्याओं के रूप में काम करेगा।

तालिका निम्नानुसार प्रदर्शित की जा सकती है:

 addmargins(table(Test, Human)) 

यह तालिका खराब नहीं है, लेकिन एक सुंदर पैकेज है जो हमारे लिए लगभग सब कुछ करेगा। एक पैकेज स्थापित करने के लिए, डिफ़ॉल्ट आर गुई में आपको पैकेजों में स्थापित पैकेज पर क्लिक करने और पैकेज का नाम टाइप करने की आवश्यकता होती है।

हम पुस्तकालय का उपयोग करते हैं। एक बदलाव के लिए, हम HTML में परिणाम का उत्पादन करेंगे, क्योंकि मेरे RStudio तालिकाओं में थोड़ा गलत तरीके से प्रदर्शित किया जाता है (यदि आप जानते हैं कि इसे कैसे ठीक किया जाए - लिखें)।

 library(prettyR) test<-calculate.xtab(Test, Human, varnames=c("Test","Human","T+","T-","H+","H-")) print(test, html=T) 

वहां जो लिखा गया है, उसका विश्लेषण करें।


इस प्रकार, हम अपने एल्गोरिथ्म की मात्रात्मक विशेषताओं को प्राप्त करते हैं। ध्यान दें कि LR +, जो कि 3 से अधिक के अनुपात के रूप में तालिका पर इंगित किया गया है। ऊपर वर्णित मापदंडों पर भी ध्यान दें। एक नियम के रूप में, पीवी + और सी को मुख्य ब्याज होना चाहिए, क्योंकि गलत अलार्म एक अतिरिक्त लागत है, और पता लगाने में विफलता घातक परिणाम पैदा कर सकती है।

बाइनरी वर्गीकरण, मात्रात्मक डेटा

लेकिन क्या होगा अगर हमारे डेटा मात्रात्मक हैं? यह हो सकता है, उदाहरण के लिए, एक पैरामीटर जिसके द्वारा पिछले एल्गोरिथ्म एक निर्णय लेता है (कहते हैं, त्वचा के रंग की पिक्सेल की संख्या)। मज़े के लिए, आइए एक एल्गोरिथ्म के संचालन को देखें जो स्पैमर्स को अवरुद्ध करता है।

आप एक नए सामाजिक नेटवर्क के निर्माता हैं, और आप स्पैमर्स से लड़ने की कोशिश कर रहे हैं। स्पैमर्स बड़ी संख्या में संदेश भेजते हैं, इसलिए सबसे आसान काम एक निश्चित संदेश सीमा से अधिक होने के बाद उन्हें ब्लॉक करना है। बस इसे कैसे चुनना है? हम फिर से 30 उपयोगकर्ताओं का एक नमूना लेते हैं। हमें पता चलता है कि क्या वे रोबोट हैं, संदेशों की संख्या पढ़ें और प्राप्त करें:



थोड़ा बहुत सिद्धांत। दहलीज चुनने के बाद, हम नमूने को 2 भागों में विभाजित करते हैं और 1 उदाहरण से एक तालिका प्राप्त करते हैं। स्वाभाविक रूप से, हमारा कार्य सर्वोत्तम सीमा का चयन करना है। कोई अस्पष्ट एल्गोरिथ्म नहीं है, क्योंकि संवेदनशीलता और विशिष्टता प्रत्येक वास्तविक उदाहरण में एक अलग भूमिका निभाते हैं। हालांकि, एक ऐसी विधि है जो निर्णय लेने में मदद करती है, साथ ही संपूर्ण रूप से परीक्षण का मूल्यांकन भी करती है। इस पद्धति को आरओसी-वक्र कहा जाता है, एक "रिसीवर प्रदर्शन वक्र" जिसका उपयोग शुरू में रडार में किया गया था। इसका निर्माण आर।

सबसे पहले, ROCR पैकेज स्थापित करें (gtools, gplots और gdata संकुल इसके साथ स्थापित किए जाएंगे, यदि आपके पास नहीं है)।

फिर से डेटा लोड हो रहा है।

 # loading data # don't forget to set your working directory tab <- read.csv(file="data2.csv", header=TRUE, sep=",", dec=".") attach(tab) 

अब हम एक वक्र का निर्माण कर रहे हैं।

 # area under the curve calculation auc <- slot(performance(pred, "auc"), "y.values")[[1]] # ROC-curve library(ROCR) pred <- prediction(Messages, Bot) plot(performance(pred, "tpr", "fpr"),lwd=2) lines(c(0,1),c(0,1)) text(0.6,0.2,paste("AUC=", round(auc,4), sep=""), cex=1.4) title("ROC Curve") 

इस ग्राफ पर, y अक्ष संवेदनशीलता है, और x अक्ष (1 - विशिष्टता) है। जाहिर है, एक अच्छे परीक्षण के लिए आपको संवेदनशीलता और विशिष्टता दोनों को अधिकतम करना होगा। यह केवल किस अनुपात में अज्ञात है। यदि दोनों पैरामीटर समतुल्य हैं, तो आप बिसेक्ट्रिक्स से सबसे दूर के बिंदु को खोज सकते हैं। वैसे, आर में कटऑफ अंक जोड़कर इस ग्राफ को और अधिक दृश्य बनाने का अवसर है।

 # ROC-curve with better plotting plot(performance(pred, "tpr", "fpr"), print.cutoffs.at=c(30,40,60,81), text.adj=c(1.1,-0.5) ,lwd=2) lines(c(0,1),c(0,1)) text(0.6,0.2,paste("AUC=", round(auc,4), sep=""), cex=1.4) title("ROC Curve") 

यह बहुत बेहतर है। हम देखते हैं कि द्विभाजक से सबसे दूर के बिंदु 40 और 60 हैं। वैसे, द्विभाजक और वक्र के नीचे के क्षेत्र के बारे में जो हमने गणना की थी। द्विभाजक एक मूर्ख परीक्षण है, अर्थात 50 से 50. एक अच्छी परीक्षा में वक्र के नीचे एक क्षेत्र होना चाहिए जो 0.5 से अधिक हो, अर्थात द्विभाजक के तहत क्षेत्र। यह बहुत अधिक होने के लिए वांछनीय है, लेकिन कम नहीं होना चाहिए, क्योंकि इस मामले में हमारी विधि का उपयोग करने की तुलना में यादृच्छिक पर प्रहार करना बेहतर है।

परिणाम

इस लेख में, मैंने वर्णन किया कि आर में बाइनरी वर्गीकरण के साथ कैसे काम किया जाए। जैसा कि आप देख सकते हैं, उन्हें लागू करने के लिए स्थितियों को रोजमर्रा की जिंदगी में पाया जा सकता है। इस तरह के परीक्षणों की मुख्य विशेषताएं संवेदनशीलता, विशिष्टता, संभावना दर और भविष्य कहनेवाला मूल्य हैं। वे परस्पर जुड़े हुए हैं और विभिन्न कोणों से परीक्षण की प्रभावशीलता दिखाते हैं। मात्रात्मक डेटा के मामले में, उन्हें एक कट बिंदु का चयन करके समायोजित किया जा सकता है। ऐसा करने के लिए, आप आरओसी-वक्र का उपयोग कर सकते हैं। परीक्षण के लिए आवश्यकताओं को ध्यान में रखते हुए, प्रत्येक मामले में चुनाव अलग से किया जाता है, लेकिन आमतौर पर संवेदनशीलता अधिक महत्वपूर्ण होती है।

निम्नलिखित लेख गुणात्मक और मात्रात्मक डेटा के विश्लेषण पर ध्यान केंद्रित करेंगे, टी-टेस्ट, ची-स्क्वायर टेस्ट और बहुत कुछ।

आपका ध्यान देने के लिए धन्यवाद। मुझे आशा है कि आपको यह पसंद आया होगा!

नमूना फ़ाइलें