K- मतलब यूक्लिडियन और महालनोबिस दूरी के साथ क्लस्टरिंग

पिछले लेख में, मैंने इस बारे में बात की थी कि आप सामान्य मीट्रिक के साथ c # में k- साधन एल्गोरिथ्म को कैसे लागू कर सकते हैं। टिप्पणियों में आप इस बात की चर्चा पढ़ सकते हैं कि विभिन्न मैट्रिक्स का उपयोग करना कितना उचित है, विभिन्न मैट्रिक्स का उपयोग करने की गणितीय प्रकृति, और इसी तरह। मैं तब एक सुंदर उदाहरण देना चाहता था, लेकिन हाथ में कोई उपयुक्त डेटा नहीं था। और आज मैं एक ऐसा काम कर आया हूँ जो महालनोबिस दूरी को k- साधन क्लस्टरिंग में उपयोग करने के फायदे बताता है। कट के तहत विवरण।

कच्चे डेटा प्रसंस्करण

इसलिए मेरे पास 12-आयामी डेटा के कुछ सरणी थे, मुझे तेरहवें बाइनरी क्षेत्र की भविष्यवाणी के लिए एक मॉडल बनाना था, अर्थात यह एक वर्गीकरण कार्य है। हमेशा की तरह विश्लेषण इस तथ्य से शुरू होता है कि मैं पूरे सरणी को क्लासिफायरिफायर (मैं तंत्रिका नेटवर्क का उपयोग करता हूं) के बिना ड्राइव करता हूं, और फिर आपदा के पैमाने का आकलन करने के लिए परिणाम को देखता हूं। यह शायद ही कभी एक अच्छा परिणाम देता है, लेकिन आपको सामान्य रूप से समझने की अनुमति देता है कि सब कुछ कितना बुरा है। मुझे आश्चर्य नहीं था कि परिणाम सबसे अच्छा नहीं था, और मैं विश्लेषण के अगले चरण पर आगे बढ़ता हूं।

दृश्य

विज़ुअलाइज़ेशन आपको डेटा का नेत्रहीन मूल्यांकन करने की अनुमति देता है, उदाहरण के लिए, आप देख सकते हैं कि डेटा कई समूहों का निर्माण करता है, फिर क्लस्टर के लिए और प्रत्येक क्लस्टर के लिए क्लासिफायर को प्रशिक्षित करना संभव है। यह एक सरल दो-चरण हाइब्रिड मॉडल निकला, क्लस्टरिंग के परिणाम के अनुसार, पहला क्लासिफायरियर कई वर्गों (क्लस्टर क्लस्टरिंग एल्गोरिथ्म द्वारा पता लगाया जाता है) में बनाया गया है, और फिर प्रत्येक वर्ग / क्लस्टर लक्ष्य क्षेत्र के लिए अपने स्वयं के क्लासिफायरियर का उपयोग करता है। जैसा कि हम जानते हैं, k- साधन एल्गोरिथ्म क्लस्टर की संख्या को इनपुट के रूप में स्वीकार करता है और एक निर्दिष्ट संख्या में समूहों में डेटा को विभाजित करता है। क्लस्टर की संख्या के माध्यम से छंटनी और कम से कम लागत विभाजन की तलाश के बजाय, आप डेटा की कल्पना कर सकते हैं और इन समूहों को देख सकते हैं। लेकिन एक और समस्या है, उदाहरण के लिए, यूक्लिडियन दूरी द्वारा डेटा को विभाजित करते हुए, हम बहुत ही अंतर्निहित क्लस्टर सीमाएं प्राप्त कर सकते हैं, वे एक-दूसरे के बहुत करीब होंगे, और इस तरह सिस्टम की सटीकता कम हो जाती है।

इसलिए, मैं प्रस्तुत करना शुरू कर रहा हूं, लेकिन 12-आयामी स्थान को प्रस्तुत करना बहुत आसान नहीं है, इसलिए मुझे आयाम को 3 या 2 तक कम करने की आवश्यकता है। शुरुआत के लिए, मुझे दो का चयन करना है, क्योंकि यह आसान है। आयाम को कम करने के लिए, मैं प्रिंसिपल घटकों की विधि का उपयोग करता हूं, जिस तरह से अंतिम से पहले लेख में वर्णित बहुत कार्यान्वयन है ।

परिणामस्वरूप, मुझे यह चित्र मिला:



ब्लू और रेड डॉट्स लक्ष्य क्षेत्र द्वारा गठित केवल दो वर्ग हैं।

क्लस्टरिंग

ऊपर दी गई तस्वीर से पता चलता है कि डेटा प्रक्षेपण में दो समूहों को एक बहुत स्पष्ट सीमा के साथ स्पष्ट किया गया है। अब आपको पैरामीटर 2 के साथ k-mean clustering करने की आवश्यकता है। लेकिन यहां सवाल यह है कि इसके लिए कौन सा मीट्रिक उपयोग किया जाए। यूक्लिडियन मेट्रिक गोल गॉसियन बनाता है (गॉसियन क्यों, आप मेरी टिप्पणी पिछले लेख में पढ़ सकते हैं), लेकिन नग्न आंखों के साथ भी यह स्पष्ट है कि यदि हम समूहों के चारों ओर के घेरे का वर्णन करते हैं, तो वे अंतर करेंगे।

यहाँ क्या यूक्लिडियन मीट्रिक के साथ क्लस्टरिंग दिखता है:



सीमा बहुत फ़र्ज़ी है, और वास्तव में क्लस्टर हम जो चाहते थे उससे पूरी तरह से अलग हो गए।

महालनोबिस दूरी के साथ क्लस्टरिंग दीर्घवृत्तीय गॉसियन का निर्माण करता है, और पहली तस्वीर के लिए यह बहुत आसान है कि समूहों के चारों ओर वर्णित दो असमान दीर्घवृत्त खींचे।

यहाँ इस तरह के क्लस्टरिंग का परिणाम है:

लाभ

यह अभी तक स्पष्ट नहीं है कि लाभ हुआ है या नहीं, लेकिन क्लस्टरिंग ने मुझे डेटा के दो अलग-अलग समूह दिए हैं, और अब मैं मॉडल के पहले चरण का निर्माण कर सकता हूं। या प्रत्येक क्लस्टर के साथ एक अलग कार्य के रूप में काम करते हैं। इसके अलावा, प्रत्येक समूह के लिए, लक्ष्य क्षेत्र द्वारा क्लासिफायर को प्रशिक्षित किया जाएगा, और इसी तरह, लेकिन यह अब इस लेख के ढांचे के भीतर नहीं है -)