शुरुआती के लिए सहसंबंध

उन लोगों के लिए अपडेट करें जो लेख को उपयोगी पाते हैं और इसे पसंदीदा में डालते हैं। एक अच्छा मौका है कि पोस्ट माइनस में जाएगी, और मुझे इसे ड्राफ्ट पर ले जाने के लिए मजबूर किया जाएगा। एक प्रति रखो!

गैर-विशेषज्ञों के लिए संक्षिप्त और सरल सामग्री, प्रतिगमन निर्भरता की खोज के विभिन्न तरीकों के बारे में एक दृश्य रूप में बता रहा है। यह सब लगभग अकादमिक नहीं है, लेकिन मुझे उम्मीद है कि यह समझ में आएगा। प्राकृतिक विज्ञान के छात्रों के लिए डेटा प्रोसेसिंग पर एक मिनी-मैनुअल के रूप में एक सवारी, जो लेखक की तरह गणित को अच्छी तरह से नहीं जानते हैं। मतलाब में गणना, एक्सेल में डेटा की तैयारी - यह हमारे क्षेत्र में हुआ

परिचय

यह क्यों आवश्यक है? में और विज्ञान के आसपास, किसी वस्तु के कुछ अज्ञात पैरामीटर की भविष्यवाणी करने का कार्य अक्सर इस ऑब्जेक्ट (भविष्यवक्ताओं) के ज्ञात मापदंडों और समान वस्तुओं के एक बड़े सेट से उत्पन्न होता है, तथाकथित प्रशिक्षण सेट। एक उदाहरण है। यहाँ हम बाज़ार में एक सेब चुनते हैं। यह इस तरह के भविष्यवक्ताओं द्वारा वर्णित किया जा सकता है: लालिमा, वजन, कीड़े की संख्या। लेकिन उपभोक्ताओं के रूप में, हम तोते में पांच-पैमाने पर मापा जाने वाले स्वाद में रुचि रखते हैं। जीवन के अनुभव से, हम जानते हैं कि सभ्य सटीकता के साथ स्वाद 5 * लाल + 2 * वजन -7 * कीड़े की संख्या है। हम ऐसे व्यसनों की खोज के बारे में बात करेंगे। सीखने को आसान बनाने के लिए, आइए उसकी 90/60/90 और ऊंचाई के आधार पर लड़की के वजन का अनुमान लगाने की कोशिश करें।

स्रोत डेटा

अनुसंधान के एक उद्देश्य के रूप में, मैं प्लेबॉय के महीने की लड़कियों के आंकड़े के मापदंडों पर डेटा ले जाऊंगा। स्रोत - www.wired.com/special_multimedia/2009/st_infoporn_1702 , थोड़ा ennobled और इंच से सेंटीमीटर में स्थानांतरित किया गया। मुझे इस तथ्य के बारे में एक चुटकुला याद आता है कि 34 इंच दो सत्रह इंच के मॉनिटर जैसा है। अधूरी जानकारी के साथ अलग रिकॉर्ड भी। वास्तविक वस्तुओं के साथ काम करते समय, उनका उपयोग किया जा सकता है, लेकिन अब वे केवल हमें परेशान करते हैं। लेकिन उनका उपयोग परिणामों की पर्याप्तता को सत्यापित करने के लिए किया जा सकता है। हमारे पास मौजूद सभी डेटा निरंतर है, अर्थात, एक फ्लोट की तरह, मोटे तौर पर बोल रहा है। वे केवल स्क्रीन को अव्यवस्थित नहीं करने के लिए पूर्णांक में कनवर्ट किए जाते हैं। असतत डेटा के साथ काम करने के तरीके हैं - हमारे उदाहरण में, उदाहरण के लिए, यह त्वचा का रंग या राष्ट्रीयता हो सकता है, जो मूल्यों के निश्चित सेट में से एक लेते हैं। यह वर्गीकरण और निर्णय लेने के तरीकों के साथ अधिक है, जो एक और मैनुअल तैयार करता है। Data.xls फ़ाइल में दो शीट हैं। पहले पर, वास्तविक डेटा, दूसरे पर - अधूरा डेटा और हमारे मॉडल के परीक्षण के लिए एक सेट।

पदनाम

डब्ल्यू - वास्तविक वजन
W_p - हमारे मॉडल द्वारा अनुमानित वजन
एस - बस्ट
टी - कमर
बी - कूल्हों
एल - विकास
ई - मॉडल त्रुटि

मॉडल की गुणवत्ता का मूल्यांकन कैसे करें?

हमारे अभ्यास का लक्ष्य किसी प्रकार के मॉडल को प्राप्त करना है जो किसी वस्तु का वर्णन करता है। किसी विशिष्ट मॉडल के संचालन का सिद्धांत और संचालन का सिद्धांत हमें अभी तक चिंतित नहीं करता है। यह सिर्फ एक फ़ंक्शन f (S, T, B, L) है जो लड़की का वजन देता है। कैसे समझें कि कौन सा फ़ंक्शन अच्छा और उच्च गुणवत्ता वाला है, और कौन सा नहीं है? इसके लिए, तथाकथित फिटनेस फ़ंक्शन का उपयोग किया जाता है। सबसे क्लासिक और अक्सर उपयोग की जाने वाली भविष्यवाणी और वास्तविक मूल्य के बीच अंतर के वर्गों का योग है। हमारे मामले में, यह सभी बिंदुओं के लिए योग (W_p - W) ^ 2 होगा। दरअसल, "कम से कम चौकोर विधि" नाम यहाँ से आया है। मानदंड सबसे अच्छा नहीं है और केवल एक ही नहीं है, लेकिन डिफ़ॉल्ट विधि के रूप में काफी स्वीकार्य है। इसकी ख़ासियत यह है कि यह उत्सर्जन के प्रति संवेदनशील है और इस तरह के मॉडल को निम्न गुणवत्ता का मानता है। सबसे छोटे मॉड्यूल आदि के सभी प्रकार के तरीके हैं, लेकिन अब हमें इसकी आवश्यकता नहीं है।

सरल रेखीय प्रतिगमन

सबसे सरल मामला। हमारे पास एक पूर्वानुमाता चर और एक आश्रित चर है। हमारे मामले में, यह हो सकता है, उदाहरण के लिए, ऊंचाई और वजन। हमें समीकरण W_p = a * L + b, अर्थात् बनाने की आवश्यकता है गुणांक a और b ज्ञात कीजिए। यदि हम प्रत्येक नमूने के लिए यह गणना करते हैं, तो W_p उसी नमूने के लिए W के साथ अधिकतम संयोग करेगा। अर्थात, हमारे पास प्रत्येक लड़की के लिए निम्नलिखित समीकरण होंगे:
W_p_i = a * L_i + b
E_i = (W_p-W) ^ 2

इस मामले में कुल त्रुटि योग (E_i) होगी। नतीजतन, ए और बी के इष्टतम मूल्यों के लिए, राशि (E_i) न्यूनतम होगी। समीकरण कैसे खोजें?

मैटलैब

सरलीकरण के लिए, मैं अत्यधिक एक्सेल नामक एक्सेल प्लगइन स्थापित करने की सलाह देता हूं। यह matlab / toolbox / exlink फ़ोल्डर में है। प्रोग्राम के बीच डेटा ट्रांसफर करना बहुत आसान है। प्लगइन स्थापित करने के बाद, एक अन्य मेनू स्पष्ट नाम के साथ दिखाई देता है, और Matlab स्वचालित रूप से शुरू होता है। एक्सेल से मैटलैब की जानकारी का स्थानांतरण "MATLAB को डेटा भेजें" कमांड द्वारा ट्रिगर किया गया है, और इसके विपरीत - "MATLAB से डेटा प्राप्त करें"। हम कॉलम L से संख्याओं को अलग करते हैं और W से अलग, बिना हेडर के। चर भी कहा जाता है। रैखिक प्रतिगमन गणना फ़ंक्शन पॉलीफ़िट (एक्स, वाई, 1) है। यूनिट सन्निकटन बहुपद की डिग्री को दर्शाता है। हमारे साथ यह रैखिक है, इसलिए एक इकाई है। अंत में, हम प्रतिगमन गुणांक प्राप्त करते हैं: regr=polyfit(L,W,1) । हम regr (1), b - regr (2) के रूप में प्राप्त कर सकते हैं। यही है, हम अपना मान W_p: W_p=L*repr(1)+repr(2) । उन्हें एक्सेल में वापस लाओ।

Grafichek

हम्म, विरल। यह W_p (W) का ग्राफ है। ग्राफ पर सूत्र W_p और W. के संबंध को दर्शाता है। आदर्श रूप से, W_p = W * 1 + 0. होगा स्रोत डेटा का विवेकाधिकार सामने आया है - बिंदु बादल की जांच की जाती है। कोई चाप में सहसंबंध गुणांक - डेटा एक दूसरे के साथ कमजोर रूप से सहसंबद्ध हैं, अर्थात्। हमारा मॉडल वजन और ऊंचाई के बीच के संबंध का खराब वर्णन करता है। ग्राफ के अनुसार, यह एक सीधे बादल के साथ थोड़ा लम्बी के रूप में स्थित बिंदुओं के रूप में देखा जा सकता है। एक अच्छा मॉडल एक संकीर्ण पट्टी में फैला हुआ बादल देगा, और भी बदतर - बस डॉट्स या एक गोल बादल का एक यादृच्छिक सेट। मॉडल को पूरक बनाने की आवश्यकता है। सहसंबंध गुणांक के बारे में अलग से बताने योग्य है, क्योंकि यह अक्सर बिल्कुल गलत तरीके से उपयोग किया जाता है।

मैट्रिक्स गणना

यह संभव है कि किसी भी पॉलीफाइट्स के बिना, इकाइयों के साथ भरे एक और स्तंभ के साथ विकास मूल्यों के साथ स्तंभ को थोड़ा पूरक करके एक प्रतिगमन के निर्माण का सामना करना: L(:,2)=1 । दो उस कॉलम की संख्या को इंगित करता है जिसमें इकाइयां लिखी गई हैं। फिर प्रतिगमन गुणांक निम्न सूत्र द्वारा पाया जा सकता है: repr=inv(L'*L)*L'*W और इसके विपरीत, W_p खोजें: W_p=L*repr । जब आपको मैट्रिस के जादू का एहसास होता है, तो फ़ंक्शन का उपयोग करना मज़ेदार हो जाता है। प्रतिगमन के मुक्त शब्द की गणना के लिए एक एकल स्तंभ की आवश्यकता होती है, अर्थात, पैरामीटर द्वारा गुणा किए बिना केवल शब्द। यदि आप इसे नहीं जोड़ते हैं, तो प्रतिगमन में केवल एक सदस्य होगा: W_p = a * L. यह स्पष्ट रूप से पर्याप्त है कि यह दो शब्दों वाले एक प्रतिगमन की तुलना में गुणवत्ता में बदतर होगा। सामान्य तौर पर, आपको एक मुक्त सदस्य से छुटकारा पाने की आवश्यकता है केवल अगर यह निश्चित रूप से आवश्यक नहीं है। डिफ़ॉल्ट रूप से, यह अभी भी मौजूद है।

मल्टीलाइनर रिग्रेशन

पिछले वर्षों के रूसी-भाषा के साहित्य में, इसे MMNC के रूप में जाना जाता है - कई न्यूनतम वर्गों की विधि। यह कई भविष्यवाणियों के लिए सबसे कम वर्ग विधि का विस्तार है। यही है, हम न केवल विकास के साथ काम कर रहे हैं, बल्कि बाकी के साथ भी, इसलिए बोलने के लिए, क्षैतिज आयाम। डेटा की तैयारी बिल्कुल समान है: मैटलैब में दोनों मैट्रीक, इकाइयों का एक कॉलम जोड़ते हुए, एक ही सूत्र का उपयोग करके गणना। फ़ंक्शन प्रेमियों के लिए, b = regress(y,X) । इस फ़ंक्शन को एक इकाई स्तंभ के अतिरिक्त की आवश्यकता होती है। हम मैट्रिक्स पर अनुभाग से सूत्र के अनुसार गणना दोहराते हैं, इसे एक्सेल में भेजते हैं, देखो।

नंबर दो का प्रयास

और इतना बेहतर है, लेकिन अभी भी बहुत नहीं है। जैसा कि आप देख सकते हैं, सेलुलरता केवल क्षैतिज रूप से बनी रही। कहीं भी नहीं मिल रहा है, मूल वजन पाउंड में पूर्णांक थे। यही है, किलोग्राम में रूपांतरण के बाद, वे लगभग 0.5 की वृद्धि में ग्रिड पर आते हैं। हमारे मॉडल का कुल अंतिम दृश्य:

W_p = 0.2271 * S + 0.1851 * T + 0.3125 * B + 0.3949 * L - 72.9132

सेंटीमीटर में वॉल्यूम, किलो में वजन। चूँकि हमारे पास माप की समान इकाइयों में वृद्धि के अलावा सभी मात्राएँ हैं और परिमाण के एक ही क्रम के बारे में (कमर को छोड़कर), हम कुल वजन में उनके योगदान का अनुमान लगा सकते हैं। तर्क कुछ इस तरह है: कमर पर गुणांक सबसे छोटा है, जैसा कि सेंटीमीटर में स्वयं मात्राएं हैं। इसलिए, वजन के लिए इस पैरामीटर का योगदान न्यूनतम है। बस्ट में और विशेष रूप से कूल्हों में, यह बड़ा है, अर्थात। कमर पर एक सेंटीमीटर छाती पर वजन की तुलना में थोड़ी वृद्धि होती है। और सबसे बढ़कर, गधे की मात्रा वजन को प्रभावित करती है। हालांकि, इस मामले में दिलचस्पी रखने वाले किसी भी व्यक्ति के लिए जाना जाता है। यही है, कम से कम, वास्तविक जीवन का हमारा मॉडल विरोधाभासी नहीं है।

मॉडल सत्यापन

नाम जोर से है, लेकिन उन लड़कियों का कम से कम अनुमानित वजन प्राप्त करने की कोशिश करें जिनके लिए आकार का एक पूरा सेट है, लेकिन कोई वजन नहीं। उनमें से 7 हैं: मई से जून 1956, जुलाई 1957, मार्च 1987, अगस्त 1988 तक। हम मॉडल द्वारा अनुमानित वज़न पाते हैं: W_p=X*repr

कम से कम, शाब्दिक शब्दों में यह विश्वसनीय लगता है। और यह वास्तविकता से कितना मेल खाता है यह आप पर निर्भर है

प्रयोज्यता

संक्षेप में, परिणामी मॉडल हमारे डेटासेट जैसी वस्तुओं के लिए उपयुक्त है। यही है, प्राप्त सहसंबंधों के अनुसार, 80+ के वजन वाली महिलाओं के आंकड़ों के मापदंडों पर विचार करना आवश्यक नहीं है, एक उम्र जो अस्पताल के औसत से बहुत अलग है, आदि। वास्तविक अनुप्रयोगों में, हम मान सकते हैं कि मॉडल उपयुक्त है यदि अध्ययन के तहत ऑब्जेक्ट के पैरामीटर प्रारंभिक डेटा सेट के लिए समान मापदंडों के औसत मूल्यों से बहुत अधिक भिन्न नहीं हैं। यदि हमारे भविष्यवक्ता एक-दूसरे के साथ दृढ़ता से सहसंबद्ध हैं, तो समस्याएं (और उत्पन्न हो सकती हैं)। उदाहरण के लिए, यह पैरों की वृद्धि और लंबाई है। फिर प्रतिगमन समीकरण में संबंधित मूल्यों के लिए गुणांक कम सटीकता के साथ निर्धारित किया जाएगा। इस मामले में, मापदंडों में से एक को छोड़ दिया जाना चाहिए, या भविष्यवाणियों की संख्या को कम करने के लिए प्रमुख घटक विधि का उपयोग किया जाना चाहिए। यदि हमारे पास एक छोटा सा नमूना और / या कई भविष्यवक्ता हैं, तो हम मॉडल में ओवरराइड होने का जोखिम चलाते हैं। यही है, अगर हम अपने नमूने के लिए 604 पैरामीटर लेते हैं (और तालिका में केवल 604 लड़कियां हैं), तो हम विश्लेषणात्मक रूप से एक 604 + 1 शब्द के साथ एक समीकरण प्राप्त कर सकते हैं, जो हम इसमें फेंक दिए गए हैं, इसका सटीक वर्णन करेंगे। लेकिन उसकी भविष्यवाणी की शक्ति बहुत छोटी होगी। अंत में, सभी वस्तुओं को मल्टीलाइनर निर्भरता द्वारा वर्णित नहीं किया जा सकता है। लघुगणक, और शक्ति, और सभी प्रकार के जटिल हैं। उनकी खोज पहले से ही पूरी तरह से अलग मुद्दा है।

भविष्य की योजना

यदि यह अच्छी तरह से काम करता है, तो मैं डेटा आयाम, मुख्य घटकों पर प्रतिगमन, PLS विधि, क्लस्टर विश्लेषण और ऑब्जेक्ट वर्गीकरण विधियों की शुरुआत को कम करने के लिए एक ही शैली को प्रस्तुत करने की कोशिश करूंगा। अगर हेब्रापोलिस बहुत अच्छी तरह से स्वीकार नहीं करता है, तो मैं टिप्पणियों को ध्यान में रखने की कोशिश करूंगा। यदि बिलकुल नहीं, तो मैं सामान्य रूप से शिरमनर्मस के बारे में भूल जाऊंगा, मैं और मेरे छात्र पर्याप्त होंगे। जल्द मिलते हैं!