अनुशंसित सिस्टम: एसवीडी भाग I

हम अनुशंसाकर्ता प्रणालियों के बारे में बात करना जारी रखते हैं। पिछली बार, हमने उपयोगकर्ताओं के बीच समानता और उत्पादों के बीच समानता का निर्धारण करने का पहला प्रयास किया था। आज हम उसी कार्य को दूसरी तरफ से करेंगे - हम उन कारकों को शिक्षित करने का प्रयास करेंगे जो उपयोगकर्ताओं और उत्पादों की विशेषता रखते हैं। अगर पिछली पोस्ट से वासी ट्रैक्टरों के बारे में फिल्में पसंद करते हैं और सूअरों के बारे में फिल्में पसंद नहीं करते हैं, और पीटर, इसके विपरीत, यह समझना बहुत अच्छा होगा कि कौन सी फिल्में "सूअरों के बारे में" हैं, और उन्हें पीटर को सलाह देते हैं, और कौन सी फिल्में "ट्रैक्टर" हैं, और उन्हें वस्या को सलाह देते हैं।



मैं एक बार फिर याद दिलाता हूं (और, जाहिर है, मैं आपको समय के अंत तक याद दिलाऊंगा) कि हमारे पास एक मैट्रिक्स है जिसमें रेटिंग्स (पसंद, खरीद तथ्य, आदि) हैं जो उपयोगकर्ताओं (मैट्रिक्स पंक्तियों) को उत्पादों (मैट्रिक्स कॉलम) को सौंपा गया है। आइए मैट्रिक्स देखें जिसमें ज्ञात रेटिंग दर्ज की जाती हैं। एक नियम के रूप में, एक एकल उपयोगकर्ता उत्पादों के एक महत्वपूर्ण हिस्से का मूल्यांकन करने में सक्षम नहीं होगा, और यह संभावना नहीं है कि कई उत्पाद होंगे जो उपयोगकर्ताओं के एक महत्वपूर्ण अनुपात का मूल्यांकन करने के लिए तैयार हैं। इसका मतलब है कि मैट्रिक्स आर विरल है; क्या इसका फायदा उठाने का कोई तरीका है?

हमारे लिए मुख्य उपकरण मैट्रिक्स R का तथाकथित विलक्षण अपघटन होगा :

एकवचन अपघटन एक काफी सरल लेकिन बहुत शक्तिशाली उपकरण है। वास्तव में, यह व्यावहारिक दृष्टिकोण से रैखिक बीजगणित के मुख्य परिणामों में से एक है, और परिणाम पहले से ही नया नहीं है (1930 के दशक में नवीनतम में SVD गुणों का अध्ययन किया गया था), और यह और भी अधिक आश्चर्यजनक है जब रेखीय बीजगणित में विश्वविद्यालय के पाठ्यक्रम काफी विस्तृत हैं जिसमें अन्य पहलू पूरी तरह से एसवीडी पक्ष को बायपास करते हैं।

यदि आपके पास तीन मिनट हैं, तो आप गणितीय हास्य के एक ज्वलंत उदाहरण का आनंद ले सकते हैं; हास्य, ज़ाहिर है, गणितीय है, इसलिए यह इतना मज़ेदार नहीं है, लेकिन सार स्पष्ट है और प्रशंसक निश्चित रूप से संगीत पसंद करेंगे ... हम्म, हब पर, यह कहना शायद बेहतर होगा कि फॉलआउट के प्रशंसकों को क्या पसंद आएगा:


यदि आपको अभी भी तीन मिनट का समय नहीं मिला है, तो मैं हमारे लिए मुख्य संपत्ति पर प्रकाश डालूँगा: यदि R एक बड़ी मैट्रिक्स है , लेकिन छोटे रैंक के च (विशेष रूप से, विरल मैट्रीस अक्सर छोटे रैंक के होते हैं), यह मैट्रिक्स के उत्पाद में विघटित हो सकता है और मैट्रिसेस , जिससे NM से ( N + M ) f से (, यह समझने के लिए कि यह एक बड़ी प्रगति है, मापदंडों की संख्या को बहुत कम कर देता है, कल्पना करें कि, जैसा कि आमतौर पर अभ्यास में होता है, N और M को हजारों और लाखों में मापा जाता है, और f एक दर्जन से कम है )।

मशीन सीखने में एसवीडी का व्यापक रूप से उपयोग किया जाता है; वास्तव में, यदि आप कुछ निकट लाना चाहते हैं, तो संभव है कि आप एसवीडी के साथ कहीं और मिलेंगे। एसवीडी के आवेदन का एक क्लासिक उदाहरण शोर में कमी है, उदाहरण के लिए, छवियों में। आकार के एक्स मैट्रिक्स के रूप में एक काले और सफेद रंग की छवि पर विचार करें जिनके तत्व प्रत्येक पिक्सेल की तीव्रता हैं। अब चलो छवि से पिक्सेल के f कॉलम को चुनने की कोशिश करते हैं, उन्हें "प्रतिनिधि" मानते हैं और शेष कॉलमों में से प्रत्येक को इन के रैखिक संयोजन के रूप में प्रस्तुत करते हैं। मैं अब गणित में नहीं जाऊंगा, लेकिन परिणामस्वरूप, जब आप प्रत्येक कॉलम का इष्टतम प्रतिनिधित्व पाते हैं, तो यह पता चलता है कि आपने मूल मैट्रिक्स को उत्पाद के रूप में प्रस्तुत किया है आकार के मेट्रिसेस और , वह यह है कि उन्होंने छोटे एक्स के मैट्रिक्स द्वारा मैट्रिक्स एक्स को अनुमानित किया है।

एसवीडी की मुख्य संपत्ति यह है कि एसवीडी इस तरह का एक इष्टतम सन्निकटन देता है यदि हम मैट्रिक्स डी में पहले विकर्ण तत्वों के बिल्कुल ठीक छोड़ देते हैं और शेष को शून्य करते हैं:

विकर्ण मैट्रिक्स डी में , जो एकवचन अपघटन के बीच में है, तत्वों को आकार द्वारा आदेशित किया जाता है: , इसलिए अंतिम तत्वों को रीसेट करने के लिए - इसका अर्थ है सबसे छोटे तत्वों को रीसेट करना।

यदि आप अच्छी तरह से च का चयन करते हैं, तो परिणामस्वरूप छवि का वजन कम हो जाएगा, और इस पर कम शोर होगा। और इस मामले में एफ को मैट्रिक्स के एकल मूल्यों के आकार के आधार पर चुना जा सकता है, अर्थात। मैट्रिक्स डी के बहुत विकर्ण तत्वों में: यह संभव के रूप में कई को त्यागने के लिए वांछनीय है, लेकिन एक ही समय में ऐसे तत्वों के रूप में छोटे रूप में संभव है।

लेकिन हम विचलित थे। सिफारिश प्रणालियों के मामले में, यह पता चला है कि हम प्रत्येक उपयोगकर्ता को f कारकों के वेक्टर के रूप में दर्शाते हैं और प्रत्येक उत्पाद को कारकों के वेक्टर के रूप में प्रस्तुत करते हैं और फिर, उत्पाद j के लिए उपयोगकर्ता i की रेटिंग की भविष्यवाणी करने के लिए , हम उनके स्केलर उत्पाद लेते हैं । हम कह सकते हैं कि उपयोगकर्ता कारकों का वेक्टर दिखाता है कि उपयोगकर्ता एक या दूसरे कारक को कितना पसंद या नापसंद करता है, और उत्पाद कारकों का वेक्टर दिखाता है कि उत्पाद में एक कारक या अन्य कितना व्यक्त किया गया है। रैखिक बीजगणित हमें बताता है कि एक विरल रेटिंग मैट्रिक्स के लिए, ऐसा अपघटन अक्सर संभव होता है और इसका एक सार्थक अर्थ होता है।

यह इस तरह से हो सकता है कि मानव मन द्वारा कुछ कारकों को आसानी से समझा जा सकेगा: फिल्मों के लिए, "कॉमेडी-ड्रामा", "एक्शन का हिस्सा", "रोमांस का हिस्सा", इत्यादि जैसे कुछ, बाहर खड़े हो सकते हैं, और उपयोगकर्ता कारक, तदनुसार, वे दिखाएंगे कि फिल्म की संबंधित विशेषताएं उनकी पसंद के अनुसार कितनी हैं। लेकिन कुछ भी पर्याप्त नहीं हो सकता है - कोई गारंटी नहीं है, औपचारिक रूप से हम केवल संख्याओं के साथ मजाक करते हैं।

अगली बार हम इस मूल विचार को बदल देंगे - रेटिंग मैट्रिक्स को एसवीडी का उपयोग करके कम-रैंक मैट्रिक्स के करीब लाने के लिए - एक अच्छी तरह से प्रस्तुत अनुकूलन समस्या में और इसे हल करने का तरीका जानें।